다중 에이전트 시스템의 잠재적 통신 최적화 프레임워크 DiffMAS

대규모 언어 모델(LLM) 기반 다중 에이전트 시스템은 복잡한 추론 작업에서 뛰어난 성능을 보여주고 있습니다. 하지만 기존 연구들은 주로 에이전트의 역할 분담이나 오케스트레이션에 초점을 맞추고, 에이전트 간의 통신 자체는 고정된 인터페이스(fixed interface)로 취급하는 경향이 있었습니다.

더 나아가, 텍스트 기반 프로토콜을 벗어나 내부 표현(internal representations), 예를 들어 key-value 캐시를 통한 잠재적 통신(latent communication)이 유망한 대안으로 제시되었지만, 기존 접근 방식들은 이 잠재적 통신과 다중 에이전트 추론 과정을 공동으로 최적화(jointly optimize)하지 못하는 한계가 있었습니다.

이에 본 논문은 이러한 간극을 메우기 위해 DiffMAS라는 새로운 훈련 프레임워크를 제안합니다. DiffMAS의 핵심 아이디어는 에이전트 간의 잠재적 통신 과정을 단순한 인터페이스가 아닌, 다중 에이전트 시스템의 학습 가능한 구성 요소(learnable component)로 취급하는 것입니다.

DiffMAS는 다중 에이전트의 잠재적 궤적(latent trajectories)에 대해 파라미터 효율적인 지도 학습(parameter-efficient supervised training)을 수행합니다. 이를 통해 각 에이전트는 상호작용 과정에서 정보를 어떻게 인코딩하고 해석해야 하는지를 공동으로 학습할 수 있게 됩니다.

실험 결과는 DiffMAS가 기존의 단일 에이전트 추론, 텍스트 기반 다중 에이전트 시스템, 그리고 이전의 잠재적 통신 방법들보다 일관되게 우수한 성능을 보임을 입증했습니다. 특히 수학적 추론(AIME24에서 26.7% 향상), 과학 QA (GPQA-Diamond에서 20.2% 향상) 및 코드 생성과 같은 다양한 영역의 벤치마크에서 뛰어난 개선 효과를 나타냈습니다.

이러한 결과는 에이전트 간 통신을 시스템 최적화 과정에 통합하는 것이 다중 에이전트 LLM의 성능을 한 단계 끌어올릴 수 있음을 시사합니다.