도구 스키마 압축을 통한 제한된 컨텍스트 예산 하에서의 에이전트형 RAG 구현

요약

에이전트형 RAG 시스템에서 다수의 도구 스키마가 컨텍스트 창을 과도하게 점유하는 문제를 해결하기 위한 도구 스키마 압축 연구를 소개합니다. TSCG 압축 기술을 통해 토큰을 44-50% 절감함으로써, 제한된 컨텍스트 환경에서도 모델의 RAG 성능을 효과적으로 복구할 수 있음을 입증했습니다.

핵심 포인트

• 도구 스키마가 RAG를 위한 컨텍스트 예산을 잠식하는 트레이드오프 문제 분석
• TSCG 압축을 통해 스키마 토큰을 44-50% 절감하여 성능 유지
• 8K 토큰 환경에서 압축 시 정확도(EM)가 평균 20.5pp 상승
• 프런티어 스케일링 테스트에서 800개 이상의 도구 환경에서도 작동 확인