모든 AI 코딩 에이전트(AI coding agent)는 똑같이 비용이 많이 드는 습관을 가지고 있습니다:

자기 자신에게 동일한 파일을 40번씩 보여주는 것입니다.

그것이 June의 이야기였습니다.

HN과 r/LocalLLaMA 스레드에서도 계속 이 이야기가 돌았습니다.

그것의 이름은 Headroom입니다.

더 작은 모델도 아니고, 더 짧은 프롬프트(prompt)도 아닙니다.

에이전트와 LLM(대규모 언어 모델) 사이에 위치하여, 비용이 청구되기 전에 토큰(token)의 60-95%를 절감하는 압축 레이어(compression layer)입니다.

차이점은 다음과 같습니다:
일반적인 코드 검색(Code search)은 17,765 토큰이 소요됩니다.
Headroom 사용 시: 1,408 토큰. 결과는 동일합니다.

기능은 다음과 같습니다:
→ 도구 출력(tool outputs) 및 로그(logs) 압축
→ 라이브러리(Library), 프록시(proxy) 또는 MCP 서버
→ 한 번의 명령으로 Claude Code를 래핑(wraps)
→ 공유 메모리(Shared memory), 다시 설명할 필요 없음

실제 워크로드(workloads)에서 도출된 실제 수치:
SRE 장애 디버깅(incident debugging)은
65,694 토큰에서 5,118 토큰으로 감소합니다. GitHub 이슈 분류(triage)는 73% 감소합니다.

100% 오픈 소스 (Open Source)

(댓글에 있습니다)
[IMG:1]