⭐ billion-context ⭐

요약

billion-context는 코딩 에이전트와 모델 API 사이에 위치하여 긴 대화 기록을 자동으로 압축하는 플러그인입니다. 단순 요약 방식과 달리, 모델 스스로 요약할 범위와 시점을 결정하며 원문 복원 및 캐시 유지가 가능합니다. 이를 통해 토큰 사용량을 획기적으로 줄이고 검색 성능을 높여 개발 효율성을 극대화합니다.

핵심 포인트

• 모델이 필요한 부분을 선택적으로 요약하고, 필요시 원본 텍스트로 복원이 가능함.
• Claude Code, Codex 등 20개 이상의 다양한 코딩 에이전트에 적용할 수 있음.
• 100K 창 크기만으로 충분하며 토큰 사용량이 기존 대비 5배 적음.
• LongMemEval-S에서 검색 방식보다 높은 성능(79.20%)을 기록함.