Headroom: LLM 도달 전 도구 출력, 로그, RAG 청크 및 대화 기록을 압축하여 답변 품질을 유지하면서 토큰을 60-95% 절감

요약

Headroom은 LLM에 전달되는 도구 출력, 로그, RAG 청크 및 대화 기록을 압축하여 토큰 사용량을 60-95% 절감하는 솔루션입니다. 다양한 라이브러리와 프록시 모드를 제공하며, 답변 품질을 유지하면서 비용 효율성을 극대화합니다.

핵심 포인트

• 도구 출력 및 RAG 청크 압축을 통한 토큰 60-95% 절감
• 6가지 로컬 압축 알고리즘 및 가역적 CCR 검색 지원
• Claude, Codex, Gemini를 위한 교차 에이전트 메모리 저장소 제공
• 실패한 세션 분석 및 자동 수정 제안 기능 포함