AI 에이전트를 개발하는 과정은 일반적인 AI 모델 개발보다 더 복잡하고 체계적인 접근이 필요합니다. 주어진 입력값을 분석해 결과를 제공하는 AI 모델과 달리 AI 에이전트는 목표를 달성하기 위해 스스로 계획을 세우고 여러 작업을 실행하는 자율적 시스템이기 때문입니다. 특히 특정 도메인에 속한 산업이나 기업에 보다 정교한 맞춤형 해결책을 제공할 것으로 기대받고 있는 ‘Vertical AI 에이전트’를 구현하기 위해서는 도메인 특화 AI와 기업의 워크플로우에 대한 깊은 이해가 필요합니다.
관련 콘텐츠
이제 막 일상에서 구현되기 시작한 AI 에이전트는 산업 현장에도 본격적으로 적용되고 있습니다. 마키나락스는 Vertical AI 에이전트를 활용해 산업별 특성과 고객의 요구를 충족시키는 맞춤형 AI 솔루션을 제공하고 있습니다. 대표적인 예로 품질 관리를 강화하기 위해 API 에이전트와 DB 에이전트를 결합해 데이터를 실시간으로 분석하고, 불량 원인을 추적해 공정 제어하는 시나리오를 구현한 사례가 있습니다. 마키나락스는 산업 현장에서 작동하는 AI 에이전트를 어떻게 구현했을까요?
Agent Flow: 특정 문제를 단계적으로 해결

MakinaRocks가 구현하는 산업 AI 에이전트 작동 원리
마키나락스는 2017년부터 제조, 자동차, 반도체, 배터리, 화학, 국방 및 공공, 유통 등 다양한 산업의 기업들이 직면한 문제를 AI로 해결해 왔습니다. 이를 위해 고객사에서 제공받은 데이터를 단순히 수집하는 데 그치지 않고, 실시간으로 분석하여 구조화했습니다. 그간의 노하우를 바탕으로 마키나락스는 각 문제에 맞는 AI 에이전트를 설계합니다. AI 에이전트는 단순한 데이터 처리 도구가 아니라, 특정 문제를 해결하기 위해 철저히 기능과 역할이 구분된 구성 요소로 개발됩니다. 예를 들어, 필요한 모든 API를 호출하는 역할을 하는 API 에이전트, 자연어 기반으로 고객사의 DB에서 필요한 데이터를 검색하는 DB 에이전트, 매뉴얼이나 기술 문서를 기반으로 적절한 조치를 추천하는 Retrieve 에이전트 등으로 구성해 개발합니다.
마키나락스는 개별 AI 에이전트들을 Agent Flow라는 단위로 묶어 운영하는 방법론을 도입했습니다. 예컨대, 제조 공정에서 불량률이 급증하는 상황이 발생할 경우 DB 에이전트가 과거 유사한 문제 사례나 장치 매뉴얼을 검색하고, 문서 처리 에이전트가 해결 방안을 제공하며, API 에이전트가 적절한 제어를 수행하는 일련의 프로세스를 사용자와 자연어로 소통하며 명령하는 형태로 수행했습니다.
Agent Flow를 통해 단순히 여러 에이전트를 나열하는 것이 아니라, 문제 해결을 위해 필요한 모든 요소를 하나의 흐름으로 묶는 것을 목표로 했습니다. 우리는 흔히 특정 문제를 해결하기 위해 파이프라인을 떠올립니다. 데이터를 처리하기 위해 정해진 순서대로 단계를 구성하고, 이를 순차적으로 실행하여 원하는 결과를 얻는 방식이죠. 하지만 마키나락스는 파이프라인의 여러 단점을 보완하고자 Agent Flow를 도입했습니다.
Pipeline vs Agent Flow
Pipeline과 Agent Flow는 Input 범위의 확장성과 답변의 유연성에서 큰 차이를 보입니다. 먼저 Input 범위의 확장성을 살펴볼게요. 일반 Pipeline은 특정 형식의 입력과 고정된 규칙에 의존하여 작동합니다. 이는 미리 정의된 입력값이나 형식만 처리할 수 있는 제한적인 구조를 가집니다. 반면, Agent Flow는 입력 처리 범위가 사용자의 의도 기반으로 확장될 수 있도록 설계되었습니다. 초기에는 특정 룰을 따르지만, 이후에는 사용자의 의도를 학습하여 유연하고 포괄적인 대응이 가능합니다.
질문에 대한 답변은 어떨까요? 일반 Pipeline은 입력에 따라 미리 정해진 결과물을 반환하는 고정된 처리 방식을 사용합니다. 제한적인 범위 내에서 동작하며 입력 유형이 다양해지면 유연성이 감소해요. 이에 반해, Agent Flow는 사용자의 질문과 문맥을 실시간으로 분석하여 동적으로 답변의 형태와 내용을 변경할 수 있습니다. 결과적으로 더 풍부하고 다채로운 결과물을 생성합니다. 이는 단순한 데이터 처리 기능을 넘어, 사용자의 의도와 맥락을 반영한 맞춤형 대화를 가능하게 합니다.
대상 고객이 명확하다면 예상 가능한 시나리오가 존재할 가능성이 높습니다. 따라서 특정 문제를 잘 해결하기 위해 Agent Flow와 같은 ‘뭉치’ 형태를 채택하는 것은 매우 효과적인 접근 방식이며, 불확실성과 위험성을 줄이는 데에도 도움이 됩니다. 반면, 불특정 다수를 대상으로 하는 서비스에서도 원하는 바나 예상 가능한 시나리오는 존재합니다. 따라서 이 경우에도 Agent Flow를 기반으로 문제를 해결하는 구조는 여전히 유효합니다. 예측 가능한 시나리오를 체계적으로 정리하고 자동화하는 방식은 대규모 고객층에 일관된 경험을 제공할 수 있기 때문입니다.
Autonomous Agent: 시나리오가 없어도 유연하게 해결
문제를 해결하는 과정에서 예상 가능한 범위를 벗어나는 상황은 매우 자연스럽게 발생합니다. 시나리오에 있는 문제를 해결한 뒤 발생하는 새로운 문제를 해결하거나 기존 시나리오에 없던 새로운 요청이나 예외적인 상황이 발생할 가능성도 있습니다. 이런 상황에서는 Agent Flow만으로 대응하기 어렵습니다. 따라서 모든 수단을 활용해 이러한 예외 상황을 자율적으로 해결할 수 있도록 설계된 Autonomous Agent가 필수적입니다.
Autonomous Agent는 불확실성과 변동성이 높은 환경에서도 유연하게 작동하도록 설계되었습니다. 기존 데이터를 학습하여 패턴을 이해하고 이를 기반으로 새로운 문제를 스스로 인식합니다. 또한, 필요한 리소스를 자동으로 활용하여 문제를 해결하기 위한 계획을 수립하며 추가 API 호출, 데이터 결합, 새로운 데이터 생성과 같은 방법을 통해 최적의 결과를 도출합니다. 이런 과정을 통해 예상하지 못한 고객 요청에도 유연하게 대응합니다.
마키나락스는 고객의 요구와 문제의 특성에 따라 상황별로 최적의 AI 에이전트 활용 전략을 채택하는 것이 문제 해결의 핵심이라고 믿습니다. 명확한 문제에는 고객 시스템과의 긴밀한 통합과 효율적인 자동화가 핵심인 Agent Flow 활용하고, 예외적인 요구에는 Autonomous Agent와 결합해 문제를 유연하게 해결하는 것이죠.
Vertical AI 에이전트 설계 원칙
마키나락스는 AI 에이전트의 구조와 구현 방식보다 설계 원칙을 가장 중요하게 생각합니다. 내부적으로 AI 에이전트의 범위를 정의하는 것이 쉽지 않았고, 이를 명확히 결정하기 위해 내부적으로 여러 차례 논의를 거듭해야 했습니다. 결국 명확한 정답을 찾기보다는 설계 원칙을 먼저 정하고, 이를 기반으로 AI 에이전트를 구축하는 방식이 가장 효과적이라는 결론을 내렸습니다. 마키나락스는 아래의 기본 원칙을 바탕으로 각 AI 에이전트가 특정 기능에 집중하면서도 다양한 요구에 유연하게 대응할 수 있는 생태계를 구축해 나가고 있습니다.
- 도구는 AI 에이전트 단위로 통합하기
AI 에이전트는 API, DB, 문서 등 다양한 도구를 통합해 활용할 수 있어야 하지만, 모든 도구를 동시에 사용할 필요는 없다고 판단했습니다. 도구의 수가 많아질수록 관리가 어려워질 수 있기 때문에, API 호출 및 관리를 담당하는 API 에이전트, DB에서 실시간 정보를 SQL문으로 가져오는 SQL(DB) 에이전트와 같이 기능 단위로 나누어 설계했습니다. 이를 통해 복잡성을 줄이고 각 에이전트가 본연의 역할에 집중할 수 있도록 하였으며, 향후 시스템 확장과 유지보수 측면에서도 유연성을 확보할 수 있었습니다.
- 원활한 협업을 위해 데이터 표준화하기
AI 에이전트 간 원활한 협업을 위해서는 입력과 출력이 일관된 포맷을 유지해야 했습니다. 이를 위해 LangGraph의 GraphState 개념을 활용하여 각 AI 에이전트가 처리한 데이터를 다른 AI 에이전트가 바로 이해하고 사용할 수 있도록 통합된 데이터 구조를 마련했습니다. 이러한 표준화된 입출력 방식 덕분에 정보 전달의 혼선을 줄이고, 각 AI 에이전트가 맡은 역할에 집중할 수 있게 되었습니다.
- Autonomous Agent와 Agent Flow의 연계성 확보하기
AI 에이전트는 독립적으로 동작할 수 있어야 하며, 여러 AI 에이전트가 연결된 Agent Flow에서도 문제없이 작동해야 합니다. 이는 특정 작업을 수행한 AI 에이전트가 결과를 다른 AI 에이전트로 전달하거나, 필요할 경우 여러 AI 에이전트가 협력하여 복잡한 작업을 처리할 수 있도록 설계되었음을 의미합니다. 이를 통해 다양한 작업 환경에서도 AI 에이전트들이 유기적으로 연결될 수 있도록 했습니다.
- AI 에이전트의 역할을 명확히 정의하기
AI 에이전트의 불필요한 역할 확장을 방지하는 것도 중요한 원칙이었습니다. 하나의 AI 에이전트가 자신의 역할을 벗어난 기능을 수행하면 시스템의 복잡도가 증가하고 불필요한 중복이 발생할 수 있습니다. 예를 들어, API 호출 결과만 전달해야 하는 AI 에이전트가 데이터를 추가 가공하여 최종 답변까지 생성하게 되면, 기능이 모호해지고 다른 AI 에이전트와의 협업에 혼선이 생길 수 있습니다. 따라서 각 AI 에이전트는 명확한 책임 범위 내에서만 작업을 수행해야 하며, 이를 통해 전체 시스템의 안정성과 효율성을 보장할 수 있습니다.
Agent Factory: AI 에이전트 구현을 위한 차세대 생태계
마키나락스는 산업 특화 AI 에이전트를 단순히 설계하고 제공하는 것을 넘어 빠르게 생성·조합해 유기적으로 상호작용할 수 있는 시스템을 구상하고 실현하는 데 집중하고 있는데요. 우리는 이 시스템을 ‘Agent Factory’라고 명명했습니다. Agent Factory 안에서는 다양한 AI 에이전트를 필요에 따라 빠르게 생성하고 각 에이전트를 최적의 위치에 배치함으로써 새로운 문제 상황에 맞춘 Agent Flow를 즉각적으로 구성할 수 있습니다. 또한, AI 에이전트 간 협업을 자동화하는 오케스트레이션 시스템과 외부 도구 연동 기능을 결합해 복잡한 업무 환경에서도 자율성 높은 Autonomous Agent도 효율적으로 설계할 수 있습니다. 기존의 생성된 AI 에이전트를 관리하여 손쉽게 다운받아 사용할 수 있도록 하고, 새롭게 만드는 AI 에이전트는 손쉽게 등록해 차후에 활용할 수도 있겠죠.
여기에 Agent Flow의 구조화된 프로세스와 Autonomous Agent의 유연성을 하이브리드 형태로 통합함으로써, 예측 불가능한 시나리오에도 동적으로 대응하는 차세대 에이전트 생태계를 구축합니다. 이러한 접근은 AI 에이전트의 활용도를 극대화하고, 고객이 원하는 솔루션을 더 빠르게 제공할 수 있는 기반을 마련할 것입니다.
마키나락스는 여러 산업군의 고객과 함께 성장하며 Vertical AI 에이전트의 표준을 만들어 나가고 있습니다. ‘AI 에이전트를 언제, 어떻게 활용할 것인가?’, ‘상황에 따라 적합한 AI 에이전트 전략을 어떻게 선택할 것인가?’라는 질문에서 발생하는 고민은 마키나락스의 기술 철학의 중심이며 고객에게 최적의 솔루션을 제공하기 위한 끊임없는 노력의 원동력이 되고 있습니다.