AI 에이전트를 지탱하는 기반 기술 ⑤-2: 다중 에이전트 협업(Multi-Agent Coordination)의 메커니즘과 설계

본 기사는 지난 'AI 에이전트를 지탱하는 기반 기술: Agent Core가 해결하는 5가지 기술 과제'와 'AI 에이전트를 지탱하는 기반 기술 ⑤-1: 다중 에이전트 협업(Multi-Agent Coordination)의 메커니즘과 설계'의 속편입니다.

지난번에는 Multi-Agent Coordination의 전체적인 개요와 왜 여러 Agent가 협력해야 하는지에 대해 개괄했습니다. 본 기사에서는 그중에서도 특히 Multi-Agent System의 설계를 할 때 중요해지는 아키텍처에 초점을 맞춥니다. 우선, Multi-Agent Architecture의 대표적인 구성으로

• Centralized Architecture (중앙 집중형 아키텍처)
• Decentralized Architecture (분산형 아키텍처)

을 다룹니다. 참고로, Multi-Agent Coordination을 이해하기 위해서는 아키텍처뿐만 아니라 Agent의 협업 방법을 정의하는 **설계 패턴(design pattern)**도 중요합니다. 다음 회차에서는

• Sequential Pattern
• Parallel Pattern
• Loop Pattern
• Review & Critique Pattern
• Iterative Refinement Pattern
• Coordinator Pattern
• Hierarchical Task Decomposition Pattern
• Swarm Pattern
• ReAct Pattern
• Human-in-the-Loop Pattern
• Custom Logic Pattern

등 대표적인 Agent Design Pattern에 대해 해설할 예정입니다. 더 나아가 그 이후의 기사에서는

• Agent Communication
• Task Delegation
• Shared Context Design
• Agent Protocols
• Multi-Agent Runtime

등 여러 Agent가 실제로 연계하여 동작하기 위한 기술 요소들을 살펴볼 계획입니다.

Multi-Agent Architecture(다중 에이전트 아키텍처)란 여러 Agent를 어떤 구조로 배치하고, 어떻게 협업하게 할지를 정의하는 설계입니다.

Multi-Agent System을 구축할 때 단순히 Agent를 늘리기만 하면 되는 것은 아닙니다. 예를 들어,

• 어느 Agent가 전체를 관리하는지
• Agent들끼리 직접 통신하는지
• 누가 태스크를 분해하는지
• 상태나 컨텍스트를 어떻게 공유하는지

와 같은 문제에 답할 필요가 있습니다. 따라서 Multi-Agent System에서는 Agent를 배치하기 위한 구조, 즉 Architecture(아키텍처)가 중요합니다. 일반적으로 다음 두 가지 생각이 있습니다.

• Centralized Architecture (중앙 집중형 아키텍처)
• Decentralized Architecture (분산형 아키텍처)

실제 시스템은 이 둘의 중간에 위치하는 경우가 많지만, 우선 양 극단의 설계를 이해하는 것이 중요합니다.

중앙 집중형 아키텍처(Centralized Architecture)란 중앙의 Orchestrator가 전체를 관리하고 각 Agent를 제어하는 구조입니다. 이 구성에서는 각 Agent는 전문적인 태스크만을 담당합니다.

예를 들어 출장 계획 시스템의 경우,

• Travel Agent는 이동 계획을 담당하고
• Booking Agent는 예약 처리를 담당하며
• Finance Agent는 예산 확인을 담당하여,

이들을 Coordinator Agent가 총괄합니다.

최대 특징은 Agent 간 통신을 Orchestrator가 중개한다는 것입니다. 그 결과로,

• 태스크 관리가 용이하고
• 권한 관리가 용이하며
• 상태 관리가 용이하고
• 감사하기 쉽다

는 장점이 있습니다.

조금 이해하기 어려울 수도 있지만, Decentralized Architecture에서의 Agent 간 통신 구현 방식과 비교했을 때, Centralized Architecture가 상대적으로 더 쉬움을 알 수 있습니다.

분산형 아키텍처(Decentralized Architecture)란 중앙의 Coordinator 없이 Agent들끼리 직접 통신하면서 협업하는 구조입니다.

예를 들어 출장 계획 시스템의 경우 Decentralized Architecture의 구조에서는,

• 태스크 요청
• 정보 공유
• 결과 전달

를 Agent 상호 간에 직접 수행합니다. 각 Agent가 더욱 자율적으로 행동할 수 있다는 것이 특징입니다.

Centralized Architecture에서는 Orchestrator가 의사결정을 하는 반면,

Decentralized Architecture는 Agent 스스로가 의사결정합니다.

하지만 각 Agent는,

• 현재 상황을 판단하고
• 필요한 Agent를 선택하며
• 필요한 정보를 요청하는

이러한 행동을 자율적으로 실행합니다. 따라서,

• 높은 유연성
• 높은 확장성
• 장애 내성(Fault Tolerance)

이 기대되는 한편, 앞서 언급했듯이 판단이나 통신의 책임이 각 Agent 측으로 분산됩니다. 각 Agent에게 요구되는 기능이나 고려 사항이 늘어나 구현 및 운영은 상대적으로 복잡해집니다.

Enterprise는 '기업' 또는 '사업체'를 의미하며, Enterprise Agent System은 기업의 업무 프로세스나 비즈니스 워크플로우를 지원하고 자동화하기 위한 Agent System입니다.

실제로 많은 Enterprise Agent System은 Centralized Architecture에 가까운 구조를 채택하고 있습니다. 특히 권한 관리(Authorization), 감사(Audit), 보안(Security), 컴플라이언스(Compliance)가 요구되는 환경에서는 Centralized Architecture가 채택되는 경우가 많이 보입니다. Multi-Agent Coordination에서,

Strong Isolation + Controlled Collaboration

이라는 개념이 널리 채택되고 있음을 지난 기사에서 소개했습니다. Centralized Architecture는 이 개념과 매우 잘 맞는 구조입니다. 왜냐하면 Orchestrator를 중심으로 명확한 경계를 구축하기가 용이하기 때문입니다. 각 Agent는 필요한 정보만을 받아,

• 고유의 State
• 고유의 Memory
• 고유의 권한(Authority)

을 유지할 수 있습니다.

즉,

Collaboration을 유지하면서 Isolation을 실현하기 쉬운 구조인 것입니다. 중앙의 Orchestrator가 통신과 조정을 중개함으로써 Agent 간에 명확한 경계를 만들 수 있습니다.

가장 큰 과제는,

Orchestrator가 Single Point of Failure(단일 장애점)가 된다는 점입니다. Single Point of Failure란 해당 컴포넌트에 장애가 발생했을 경우, 시스템 전체의 동작에 큰 영향을 주는 지점을 말합니다. 이는 Multi-Agent System에만 국한된 문제가 아니며, 중앙 집중적인 제어를 가진 많은 시스템에 공통적으로 발생하는 과제입니다. 예를 들어, Orchestrator에 장애가 발생하면 각 Agent가 정상적으로 작동하더라도 시스템 전체가 멈출 수 있습니다.

또한, Agent 수가 증가하면,

Agent 수 증가 → Orchestrator 부하 증가 → 병목 현상(Bottleneck)

이라는 문제도 발생합니다. Orchestrator가 모든 통신과 의사결정을 중개하기 때문에 시스템 규모의 확대에 따라 처리 부하가 집중되기 쉽습니다. 그 결과, Agent를 추가해도 시스템 전체의 처리 능력이 비례하여 향상되지 않아 확장성이 떨어지는 구조가 됩니다.

즉, Centralized Architecture는 관리와 통제가 용이하다는 장점이 있는 반면, Single Point of Failure(단일 장애점)로 인한 가용성 문제나 병목 현상으로 인한 확장성 문제를 안고 있습니다.

반면에 Decentralized Architecture는 높은 유연성과 확장성을 실현하기 쉽다는 장점이 있는 반면, Agent 간의 협조와 통제가 어려워진다는 과제가 있습니다. 앞서 언급했듯이, 의사결정이나 통신의 책임이 각 Agent에게 분산되기 때문에 시스템 전체로서의 일관성(Consistency)이나 안전성을 유지하기 위한 설계가 중요합니다.

쉽게 이해하실 수 있도록,

• Centralized Architecture (중앙 집중형)
• Decentralized Architecture (분산형)

라는 두 가지 아키텍처로 단순화하여 설명했지만, 실제 Multi-Agent System은 그리 단순한 구조가 아닙니다.

다음 그림은 Google Cloud가 공개한 Multi-Agent AI System의 레퍼런스 아키텍처이며, 실제 Multi-Agent Architecture의 한 예시입니다.

전체 다이어그램에는 Agents 외에도 Agents Runtime, Model Runtime, MCP, Observability, Tool Integration 등 다양한 아키텍처 컴포넌트가 포함되어 있습니다. 하지만 먼저 녹색 상자로 둘러싸인 Agents 부분에 주목해 주세요.

이 예시에서는 Coordinator Agent가 Multi-Agent System 전체를 통제하고 있습니다. 시스템 전체 구조는 Centralized Architecture(중앙 집중식 아키텍처)와 유사한 구성임을 알 수 있습니다. Coordinator Agent는 적절한 Subagent를 선택하여 작업을 위임하고, 각 Agent의 실행 결과를 통합하면서 전체 흐름을 제어합니다.

또한, Sequence나 Iterative Refinement 같은 패턴이 결합되어 있다는 점에도 주목할 수 있습니다. 즉, 실제 Multi-Agent System은

아키텍처(Architecture)를 선택하고, 그 위에 패턴(Pattern)을 조합함으로써

구축되는 것임을 알 수 있습니다.

지금까지는 'Agent를 어떻게 배치할 것인가'에 대응하는 아키텍처에 대해 살펴보았습니다. 또한,

아키텍처 → 왜 그러한 구조가 필요한지 → 그 설계상의 트레이드오프(trade-off)

이라는 흐름으로 Multi-Agent Architecture를 정리했습니다. Multi-Agent Architecture의 대표적인 구성으로는

• Centralized Architecture (중앙 집중식 아키텍처)
• Decentralized Architecture (분산형 아키텍처)

두 가지로 단순화했습니다. 그리고 실제 Multi-Agent Architecture의 한 예시로서 Google Cloud의 Multi-Agent AI System 레퍼런스 아키텍처를 소개했습니다.

하지만, 아키텍처만으로는 Multi-Agent System의 동작을 정의할 수 없습니다. 다음으로 중요해지는 것이 'Agent를 어떻게 협조하게 할 것인가'에 대응하는 패턴입니다. 따라서 다음 섹션으로 넘어가기 전에,

아키텍처와 패턴은 같은 것이 아니라는 점을 명확히 해두겠습니다.

'AI 에이전트를 지탱하는 기반 기술 ⑤-3: Multi-Agent Coordination의 메커니즘과 설계'(준비 중)에서는 이 다이어그램에도 등장하는 패턴을 포함하여, Multi-Agent Coordination을 실현하는 대표적인 Agent Design Pattern에 대해 살펴보겠습니다.