적대적 POMDP 환경 내 복합 LLM 에이전트 설계의 비용 대비 성능 연구

요약

본 연구는 적대적 POMDP 환경인 CybORG CAGE-2를 대상으로 복합 LLM 에이전트의 설계 요소가 성능과 비용에 미치는 영향을 분석했습니다. 실험 결과, 복잡한 숙고(Deliberation) 도구를 남용하기보다 프로그래밍 방식의 상태 추상화와 효율적인 작업 분해에 집중하는 것이 비용 대비 성능(RPTS) 측면에서 훨씬 유리함을 입증했습니다.

핵심 포인트

• 프로그래밍 방식의 상태 추상화는 원시 관측값 대비 평균 보상을 최대 76% 향상시키며 가장 높은 토큰당 수익(RPTS)을 제공합니다.
• 계층 구조 전체에 숙고 도구를 분산 배치할 경우, 토큰 사용량은 늘어나고 보상은 급격히 떨어지는 '숙고 폭포(Deliberation cascade)' 현상이 발생합니다.
• 숙고 과정이 없는 계층적 분해가 대부분의 모델에서 최고의 절대 성능을 달성하며, 문맥 엔지니어링이 숙고보다 비용 효율적입니다.
• 에이전트의 깊은 추론 능력에 투자하기보다 구조화된 인프라와 명확한 작업 분해에 집중하는 것이 설계 원칙으로 권장됩니다.