CANTANTE: 대조적 신용 할당 (Contrastive Credit Attribution)을 통한 에이전트 시스템 최적화

요약

본 논문은 LLM 기반 멀티 에이전트 시스템의 최적화 문제를 근본적인 '신용 할당(credit-assignment)' 문제로 정의하고, 이를 해결하기 위한 프레임워크인 CANTANTE를 제안합니다. CANTANTE는 동일한 쿼리에 대해 여러 결합 구성의 롤아웃을 대조하여, 시스템 수준의 보상을 개별 에이전트별 업데이트 신호로 분해하는 방식을 사용합니다. 이 방법은 프로그래밍(MBPP), 수학적 추론(GSM8K), 멀티홉 질의응답(HotpotQA) 등 다양한 벤치마크에서 기존 최적화 도구 대비 높은 성능 향상과 낮은 추론 비용을 입증했습니다.

핵심 포인트

• LLM 기반 멀티 에이전트 시스템의 자동 최적화는 신용 할당 문제로 접근해야 한다.
• CANTANTE 프레임워크는 대조적(contrastive) 방식을 사용하여 시스템 보상을 개별 에이전트 업데이트 신호로 분해한다.
• 에이전트 프롬프트를 학습 가능한 시스템 파라미터로 취급하여 최적화가 가능하다.
• MBPP, GSM8K, HotpotQA 등 주요 벤치마크에서 CANTANTE는 기존 도구 대비 높은 성능 향상과 효율성을 보였다.