Spotify가 자체 Claude Code의 내부 아키텍처 전체를 공개했습니다. 대용량 파일을 읽을 때 발생하는 Token 소모를 무려 90%나 줄였습니다.

대부분의 사람들은 인식하지 못하고 있지만, 여러분의 코딩 어시스턴트가 하는 행동 중 90%는 생각하는 것이 아닙니다. 그것은 단지 설정을 찾기 위해 5개의 대용량 파일을 뒤지고, 옆에서 복사한 20개의 반복 테스트를 따라 할 뿐입니다. 이 모든 것은 기술적 깊이가 없는 단순 노동이지만, 최고급 플래그십 모델의 가장 높은 요율로 엄청난 비용을 소모하고 있습니다.

Spotify는 현지 비용을 원가 대비 3배까지 낮춘 세 가지 핵심 방어 수단을 마련했습니다:

1️⃣ 소프트 규칙은 폐기하고 Hook으로 직접 처리: 이전에는 설정 파일에 작성된 규칙들을 모델이 무시하는 경우가 많았지만, 이제는 어떤 읽기 요청이 350줄을 초과하면 실행 전에 강제로 가로채서 차단(熔断)합니다.
2️⃣ 저렴한 워커를 이용해 핵심 요약 추출: 차단된 대용량 파일은 저렴한 소형 모델에게 분산 처리되어, 깨끗하게 구조화된 핵심 요점만 가져옵니다. 수천 줄의 코드가 비싼 컨텍스트 창에 들어가는 것을 영원히 막습니다.
3️⃣ 템플릿 코드는 직접 디스크에 저장하고 반환하지 않기: 소형 모델이 샘플을 기반으로 반복적인 코드를 대량 생성하게 한 후, 형식 태그를 제거하여 바로 디스크에 조용히(静默) 기록합니다. 비싼 모델은 심지어 볼 필요조차 없습니다.

하지만 핵심 능력은 유지해야 합니다. 파일 편집과 복잡한 추론은 절대 분산 처리하지 않습니다. 테스트 과정에서 소형 모델이 심각한 스레드 안전성 취약점을 놓쳤을 때, 플래그십 모델은 몇 초 만에 이를 포착해냈습니다.

단순 노동은 워커에게 맡기고, 복잡한 논리는 플래그십 모델에게 남겨두세요. 그러니 프롬프트에서 모델에게 비용 절약을 부탁하지 마시고, 코드 레벨의 차단(拦截)이야말로 유일한 컴퓨팅 파워 콘돔입니다.