Claude/ChatGPT 토큰 사용량을 97% 절감하는 도구를 만들었습니다 — 작동 원리 소개
요약
Claude나 ChatGPT 사용 시 발생하는 컨텍스트 제한 문제를 해결하기 위해 개발된 ContextOS를 소개합니다. 이 도구는 저장소를 스캔하여 작업에 필요한 파일만 선별함으로써 토큰 사용량을 최대 97%까지 절감합니다.
핵심 포인트
- 전체 저장소 중 작업 관련성이 높은 파일만 선별하여 컨텍스트 구성
- 토큰 사용량을 최대 97%까지 획기적으로 절감 가능
- 비밀 정보(Secrets) 자동 마스킹 기능 제공
- 클라우드나 계정 없이 로컬에서 작동하는 보안 중심 설계
문제점
버그를 디버깅하고 있습니다. Claude를 엽니다. 파일 10개를 붙여넣습니다. 컨텍스트 제한(context limit)에 걸립니다.
혹은 더 최악의 상황으로 — 잘못된 파일을 붙여넣어서 Claude가 쓸모없는 답변을 내놓기도 합니다.
이런 일이 발생하는 이유는 대부분의 저장소(repo)에는 수백 개의 파일이 있지만, 특정 작업을 수행하는 데는 10~15개 정도의 파일만 필요하기 때문입니다.
내가 만든 것
ContextOS — 이 도구는 전체 저장소(repo)를 스캔하고, 현재 작업과의 관련성에 따라 파일의 순위를 매긴 후, 완벽한 크기의 컨텍스트 팩(context pack)을 내보냅니다. 비밀 정보(Secrets)는 자동으로 마스킹(redacted) 처리됩니다. 클라우드도 필요 없고, 계정도 필요 없습니다.
실제 수치
FastAPI (2,811개 파일)에서 테스트 완료:
bash
git clone https://github.com/tiangolo/fastapi
...
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기