컨텍스트 부패(Context Rot)는 현실입니다. 컴파일 아웃할 수 있습니다.

당신의 에이전트가 더 멍청해진 것이 아닙니다. 컨텍스트가 부패한 것입니다.

지원 상담원이 30턴 동안 완벽하게 답변하다가, 어느 순간부터 잘못된 것을 말하기 시작합니다. 프롬프트는 아무것도 건드리지 않았습니다. 단지 채팅이 길어졌을 뿐이며, 중요한 사실(환불이 어떤 카드에 가는지)은 이제 250k 토큰 창의 중간쯤에 방치되어 모델이 제대로 주의를 기울이지 못하는 상태가 됩니다.

이것이 바로 **컨텍스트 부패(context rot)**이며, 이제는 측정 가능합니다. Chroma의 2025년 연구에 따르면 정확도가 문서화된 컨텍스트 한계보다 훨씬 이전에 떨어지기 시작했으며,

재현 가능합니다. 이 벤치마크는 부패(rot)를 에뮬레이션하는 오프라인의 결정론적 프록시(deterministic proxy) "모델"을 제공하므로, API 키 없이도 실행할 수 있습니다. 이를 통해 베이스라인(baseline)이 숨겨진 사실을 놓치는 동안 컴파일된 컨텍스트(compiled context)는 이를 복구하는 것을 확인할 수 있습니다. 그 후 플래그 하나로 실제 모델로 교체하여 귀하의 트레이스(traces)에 대한 정확도 차이(accuracy delta)를 측정할 수 있습니다. 마지막 부분이 핵심입니다. 제 수치를 믿지 말고, 직접 측정하십시오.

즉시 적용 가능(Drop-in). SDK의 base_url을 컴파일 프록시로 지정하기만 하면 되며, 다른 것은 변경할 필요가 없습니다:

contextforge proxy --api anthropic --budget 20000

응답은 헤더에 x-contextforge-rot-before/after 및 토큰 차이(token deltas)와 함께 반환됩니다.

이것이 복합적인 이유: 설령 모델 벤더들이 내일 당장 롱 컨텍스트 어텐션(long-context attention) 문제를 해결한다 하더라도, 약 90%의 토큰 절감 효과는 여전히 중요합니다. 품질과 비용을 한 번에 해결할 수 있습니다.

Repo (Apache-2.0, 의존성 없는 코어): https://github.com/eatakishiyev/context-forge — 스타(stars)와 적대적 트레이스(adversarial traces) 모두 환영합니다.