AI Agent의 다양한 출력(도구 호출, 로그, 파일, RAG 조각)을 LLM에 입력하기 전에 압축하여 정확도 손실 없이 토큰 소비를

요약

Headroom은 AI 에이전트의 도구 호출, 로그, 파일, RAG 조각 등 다양한 출력을 압축하는 로컬 컨텍스트 압축 계층입니다. 정확도 손실 없이 토큰 소비를 60-95%까지 절감할 수 있는 6가지 알고리즘을 제공합니다.

핵심 포인트

• 도구 호출, 로그, RAG 조각 등 다양한 컨텍스트 압축 지원
• 정확도 유지하며 토큰 오버헤드를 최대 9배까지 절감
• Python/TS 라이브러리, MCP 서버 등 다양한 통합 방식 지원
• 로컬에서 실행되는 컨텍스트 압축 계층 제공