대부분의 멀티 에이전트 시스템(multi-agent systems)은 하나의 에이전트, 하나의 런타임(runtime), 하나의 도구 세트를 가진 모놀리스(monolith)로 시작합니다. 데모용으로는 잘 작동하죠. 그러다 두 번째 에이전트를 추가하고, 세 번째를 추가하면 갑자기 모든 실패가 시스템 전체를 무너뜨리게 됩니다.

저는 여러 팀과 프로젝트에서 이러한 패턴이 반복되는 것을 보았습니다. 본능적으로 에이전트를 수정하거나, 더 나은 프롬프트(prompt)를 추가하거나, 문제에 더 많은 컴퓨팅 자원(compute)을 투입하려고 합니다. 하지만 진짜 문제는 에이전트가 아닙니다. 그 밑에 깔린 아키텍처(architecture)입니다.

수십 년 동안 엔터프라이즈 소프트웨어를 신뢰할 수 있게 유지해 온 동일한 원칙들이 멀티 에이전트 시스템에도 적용됩니다. 관심사의 분리(Separation of concerns), 느슨한 결합(Loose coupling), 공유 없는 상태(Shared-nothing state), 독립적 배포 가능성(Independent deployability). 이들은 화려하지는 않지만, 어떤 시스템은 운영 환경(production)에서 살아남고 어떤 시스템은 그렇지 못한 이유가 됩니다.

12가지 원칙

실제 운영 환경에서 제대로 작동하는 멀티 에이전트 시스템을 구축할 때 가장 중요한 12가지 원칙을 정리했습니다:

아키텍처 기본 원칙 (Architecture fundamentals):

• 관심사의 분리 (Separation of Concerns): 각 에이전트는 한 가지 일만 수행합니다.
• 느슨한 결합 (Loose Coupling): 에이전트는 공유 코드가 아닌 프로토콜(protocols)을 통해 통신합니다.
• 공유 없는 상태 (Shared-Nothing State): 잠금(lock)이 필요한 공유 대화 기록이 없습니다.
• 독립적 배포 가능성 (Independent Deployability): 조정된 릴리스(release) 일정이 필요하지 않습니다.

운영 성숙도 (Operational maturity):

• 기본적인 관측 가능성 (Observability by Default): 보이지 않는 것은 고칠 수 없습니다.
• 우아한 성능 저하 (Graceful Degradation): 구성 요소가 실패하더라도 시스템은 계속 작동합니다.
• 멱등성 (Idempotency): 중복된 메시지가 시스템을 망가뜨리지 않습니다.
• 비용 인식 (Cost Awareness): 모든 에이전트가 가장 비싼 모델을 사용할 필요는 없습니다.

엔터프라이즈 현실 (Enterprise reality):

• 심층 방어 (Defense in Depth): 단일 보안 제어 장치를 절대 신뢰하지 마십시오.
• 에이전트를 위한 최소 권한 (Least Privilege for Agents): 최소한의 권한, 최대한의 격리.
• 제품보다 프로토콜 (Protocol Over Product): A2A 및 MCP가 벤더 종속(vendor lock-in)을 이깁니다.
• 진화를 위한 설계 (Design for Evolution): 기존 에이전트를 건드리지 않고도 새로운 에이전트가 합류할 수 있습니다.

진짜 교훈

이 원칙들은 이론적인 것이 아닙니다. 이는 장애가 실제적인 결과를 초래하는 프로덕션 시스템 (Production Systems)을 구축하며 얻은 결과물입니다. 아키텍처 설계 자체가 어려운 부분은 아닙니다. 진짜 어려운 부분은 사고가 발생한 후가 아니라, 사고가 발생하기 전에 팀이 아키텍처에 투자하도록 설득하는 것입니다.

Azure 매핑, 다이어그램, 그리고 각 선택의 근거를 포함한 전체 분석 내용을 확인하고 싶으신가요?

zulmehdi.blog에서 전체 게시물을 읽어보세요.