MAS-PromptBench: 프롬프트 최적화는 언제 멀티 에이전트 LLM 시스템을 개선하는가?

멀티 에이전트 시스템 (Multi-agent systems, MAS)은 에이전트형 AI (agentic AI)를 위한 확장 가능한 경로를 제공합니다. 이는 여러 개의 LLM 기반 에이전트로 구성되며, 각 에이전트에는 시스템 프롬프트 (system prompt)와 에이전트 간의 조정 및 출력 집계(output aggregation)를 제어하는 워크플로우 내의 역할이 할당됩니다. 따라서 시스템 프롬프트는 중요하고 접근 가능한 최적화 표면 (optimization surface)을 형성합니다. 즉, 모델 미세 조정 (finetuning) 없이도 에이전트의 역할과 행동을 지정하여 시스템 수준의 개선을 가능하게 합니다. 프롬프트 최적화가 단일 LLM에 대해 상당한 잠재력을 보여주었음에도 불구하고, 이를 MAS로 확장하는 것은 특히 기하급수적으로 증가하는 탐색 공간 (search space)과 같은 독특한 과제들을 제기합니다. 프롬프트 최적화가 MAS 성능을 개선하는지, 언제, 그리고 얼마나 개선하는지, 그리고 이러한 이득이 시스템 구성에 얼마나 민감한지는 여전히 불분명합니다. 본 연구에서는 작업, 워크플로우, 통신 프로토콜 및 팀 규모가 다양한 광범위한 MAS 설정에 걸쳐 시스템 프롬프트 최적화를 체계적으로 연구하며, 최첨단 단일 에이전트 방법론을 자연스럽게 확장하는 두 가지 프롬프트 최적화 도구 (prompt optimizers)를 벤치마킹합니다. 결과는 프롬프트 최적화가 상당한 이득을 이끌어낼 수 있는 잠재력을 보여주는 동시에, 다양한 MAS 설정에서 프롬프트 최적화가 언제, 얼마나 도움이 되는지를 규명하며 해결해야 할 과제들을 드러냅니다.