다중 에이전트 시스템은 언제 도움이 되는가? 정보 병목(Information Bottleneck) 관점

원문 발행 2026. 07. 18. 02:13원문 언어 영어AI 한국어 번역arXiv cs.AI 원문 보기

요약

본 논문은 다중 에이전트 시스템(MAS)과 단일 에이전트 시스템(SAS)의 차이를 정보 병목 관점에서 분석했습니다. MAS가 경계가 있는 중계 메시지를 사용하는 반면, SAS는 전체 컨텍스트를 공유한다는 점에 주목합니다. 연구 결과, MAS의 이점은 압축으로 인한 정보 손실보다 중복 컨텍스트 감소로 얻는 효율성 개선이 클 때 발생함을 보여줍니다.

핵심 포인트

MAS와 SAS의 차이를 '정보 병목' 관점에서 분석함.
MAS의 장점은 경계가 있는(bounded) 중계 조건에서 나타남.
에이전트 간 통신 설계는 정보 손실과 효율성 사이의 트레이드오프 문제임.
특히 약한 모델일수록 충분한 중계를 통해 MAS의 이점을 얻기 쉬움.

LLM 기반 다중 에이전트 시스템(MAS)은 복잡한 작업을 위한 유망한 패러다임으로 부상했습니다. 그러나 단일 에이전트 시스템(SAS) 대비 이들의 장점이 명확하지 않으며, 성능이 설정에 따라 일관성 없이 변화합니다. 본 논문에서는 MAS와 SAS의 차이점을 규명하기 위해 정보 병목 관점(information bottleneck perspective)을 제시합니다. 구체적으로, 우리의 핵심 관찰은 SAS가 전체 추론 과정을 하나의 공유 컨텍스트에 축적하는 반면, MAS는 경계가 있는 중계 메시지(bounded relay messages)로 연결된 독립적인 로컬 컨텍스트를 사용한다는 것입니다. 우리는 무한한 중계 대역폭(infinite relay bandwidth) 하에서는 모든 SAS가 전체 상위 컨텍스트를 전송하는 MAS에 의해 시뮬레이션될 수 있음을 보여줍니다. 따라서, MAS의 비자명한 장점은 압축이 근본적인 트레이드오프를 야기하는 경계형 중계(bounded relays) 조건에서 발생하며, 여기서 중복 컨텍스트를 줄이는 것은 효율성을 개선할 수 있지만 작업 관련 정보 손실을 초래할 수도 있습니다. 우리는 이 트레이드오프를 효과 파라미터 $eta$에 의해 제어되는 정보 병목으로 공식화하고, 이 파라미터가 모델 능력에 따라 어떻게 균형이 이동하는지를 포착하며, MAS의 이득은 컨텍스트 축소가 중계 정보 손실보다 클 때 발생함을 보여줍니다. 우리는 이론적 연구를 검증하기 위해 다섯 가지 벤치마크와 세 가지 모델 규모에 걸쳐 18개의 통제된 실험을 수행했습니다. 그 결과, 특히 약한 모델의 경우 중계가 충분할 때 MAS가 일관되게 도움이 된다는 것을 관찰했습니다. 반면, MAS 이득은 정보 손실을 초래하는 중계를 만나거나, 이미 중복 컨텍스트에서 유용한 정보를 추출하여 압축으로부터 얻는 것이 적은 강력한 모델의 경우에는 줄어들거나 역전됩니다. 본 연구는 다중 에이전트 설계가 근본적으로 정보 병목 최적화 문제임을 보여줍니다. 이 관점은 경계가 있는 에이전트 간 통신이 언제 도움이 되거나 해로운지를 설명합니다.

AI 자동 생성 콘텐츠

원문 바로가기

다중 에이전트 시스템은 언제 도움이 되는가? 정보 병목(Information Bottleneck) 관점

요약

핵심 포인트

댓글