에이전트 워크플로우를 위한 프로토콜 보존 컨텍스트 트리밍: 이점, 실패 영역 및 예산 가드레일
요약
본 연구는 복잡한 다단계 에이전트 워크플로우에서 컨텍스트 성장에 따른 비용 증가 및 효율성 저하 문제를 해결하기 위해 '프로토콜 보존 컨텍스트 트리밍'을 제안합니다. 다섯 가지 전략 중, 적응형 예산 가드레일(adaptive budget guardrails)이 가장 높은 과제 성공률과 프로토콜 준수율을 달성하며 시스템의 신뢰성과 효율성을 크게 향상시킬 수 있음을 입증했습니다.
핵심 포인트
- 적응형 가드레일은 96.0%의 과제 성공률 및 96.3%의 프로토콜 준수율을 보임.
- 컨텍스트 감소는 단순히 토큰 제거보다 프로토콜적으로 중요한 상태 보존에 초점을 맞춰야 함.
- 예산이 낮아질수록 실패 확률은 기하급수적으로 증가하며, 적응형 가드레일이 이를 효과적으로 방지함.
에이전트형 대규모 언어 모델(LLM) 시스템은 지침, 도구 상태, 중간 결정 및 미해결 종속성을 유지하기 위해 긴 상호작용 기록에 의존하지만, 무제한적인 컨텍스트 성장은 계산 비용을 증가시키고 효율성을 저하시킬 수 있다. 본 연구는 다단계 에이전트 워크플로우를 위한 신뢰성 제약 기반 접근 방식으로서 프로토콜 보존 컨텍스트 트리밍을 평가한다. 다섯 가지 트리밍 전략—최신성 기반(recency-based), 관련성 기반(relevance-based), 요약(summarization), 프로토콜 인식 트리밍(protocol-aware trimming), 그리고 적응형 예산 가드레일(adaptive budget guardrails)—을 과제 성공률, 프로토콜 준수율, 유효 도구 호출 수, 토큰 절감량, 지연 시간 감소, 연쇄 실패, 및 중요 컨텍스트 임계치를 사용하여 보유 컨텍스트 수준과 워크플로우 복잡도 클래스 전반에 걸쳐 비교했다. 기존 전략들은 평균 약 60%의 토큰 절감을 달성했지만, 과제 성공률(66.6-77.3%) 및 프로토콜 준수율(85.5-88.6%)은 더 낮았다. 프로토콜 인식 트리밍은 과제 성공률을 92.2%로 개선했으며, 적응형 가드레일은 96.0%의 과제 성공률, 96.3%의 프로토콜 준수율, 그리고 평균 56.0%의 토큰 절감량과 함께 1.0%의 연쇄 실패를 달성했다. 보유 컨텍스트 예산이 25% 이하일 경우, 50% 이상의 예산에 비해 실패 확률이 10.92배 증가했다(p < 0.001). 프로토콜 인식 트리밍은 공격적인 예산 하에서 기존 방식보다 성공 완료 확률을 5.24배 높였으며, 적응형 가드레일은 이를 다시 2.11배 더 높였다(p < 0.001). 중요 컨텍스트 임계치 역시 워크플로우 복잡도에 따라 증가했다. 이러한 발견들은 신뢰할 수 있는 컨텍스트 감소가 토큰 제거를 최대화하는 것보다 프로토콜적으로 중요한 상태를 보존하는 것에 더 의존하며, 적응형 가드레일이 장기 지평 에이전트 시스템의 효율성, 확장성 및 신뢰성을 향상시킬 수 있음을 시사한다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기