Agent Capsules: 멀티 에이전트 LLM 파이프라인을 위한 품질 게이트링粒度 제어

요약

Agent Capsules는 멀티 에이전트 LLM 파이프라인의 실행을 관리하는 적응형 실행 런타임을 제시합니다. 이 시스템은 단순히 에이전트를 병합하여 토큰을 절감하는 기존 방식의 품질 저하 문제를 해결하기 위해, 경험적 품질 제약을 최적화 문제로 취급합니다. Agent Capsules는 그룹별 조정 오버헤드를 계량하고 세 가지 복합 실행 전략 중 하나를 선택하며, 모든 모드 전환 시 롤링 평균 출력 품질을 게이트하여 시스템의 안정성과 효율성을 동시에 확보합니다.

핵심 포인트

• Agent Capsules는 멀티 에이전트 LLM 파이프라인에서 발생하는 토큰 소비와 품질 저하 문제를 해결하는 적응형 실행 프레임워크입니다.
• 단순한 병합 호출은 품질을 침묵적으로 저하시키므로, Agent Capsules는 경험적 품질 제약을 최적화 문제로 다룹니다.
• 런타임은 그룹별 조정 오버헤드를 측정하고 세 가지 복합 실행 전략 중 하나를 선택하며, 롤링 평균 출력 품질 게이팅을 통해 안정성을 유지합니다.
• 실제 테스트에서 Agent Capsules는 기존의 LangGraph 및 DSPy 구현 대비 상당한 토큰 절감(최대 68%)과 높은 품질 수준을 달성했습니다.