스프레드시트의 다섯 가지 체크 항목, 하나의 문화적 습관: 사용량 기반 과금(usage-based billing)이 어떻게 2025년의 AI 열광을 2026년의 비용 위기로 바꾸었는지, 그리고 왜 탈출구가 조절(throttle)이 아닌지에 대하여.

어딘가에는 단 한 달 동안 Claude에 약 5억 달러를 지출한 회사가 있습니다. 보고에 따르면 직원 라이선스에 사용량 제한(usage limit)을 설정한 사람이 아무도 없었기 때문이라고 합니다. Uber는 4개월 만에 연간 AI 예산을 모두 소진했으며, 현재는 엔지니어당 도구별로 월 1,500달러의 한도를 설정했습니다. 7월 2일, Tesla는 직원 AI 지출 한도를 주당 200달러로 제한했습니다. 같은 주, 404 Media는 유출된 Slack 메시지와 대시보드를 공개하며 Amazon, Adobe, Atlassian, Citi가 조용히 직원의 AI 사용을 제한(throttling)하고 있음을 보여주었습니다. 한 기업의 지출은 월 1,500만 달러를 넘어 세 배로 급증했습니다.

이 기업들 중 어느 곳도 AI에 대한 믿음을 버린 것이 아닙니다. 그들은 계량기(meter)에 대한 믿음을 버린 것입니다. 2026년은 사용량 기반의 토큰 과금(usage-based token billing)이 무제한의 열광을 따라잡은 해이며, 그 심판은 두 가지 경로로 동시에 진행되고 있습니다: 토큰의 비용이 얼마인가, 그리고 누가 수도꼭지(tap)를 제어하는가. 이 글은 두 경로 모두 동일한 목적지, 즉 유럽에 호스팅된 오픈 웨이트 모델(open-weight models)을 향해 나아갑니다.

토큰맥싱(tokenmaxxing)이란 무엇이었나

2025년까지 대기업들의 원칙은 간단했습니다. 가능한 한 많은 AI를 사용하는 것이었습니다. CBC는 이러한 문화를 직접적으로 기록했습니다: Meta와 Amazon의 직원들은 가장 많은 토큰을 사용한 사람을 가리는 내부 리더보드(leaderboard)에서 경쟁했습니다. 이를 일컫는 용어는 토큰맥싱(tokenmaxxing)이었으며, 이는 아무도 의심하지 않을 만큼 너무나 당연한 가정에 기반하고 있었습니다. 즉, 더 많은 토큰이 더 많은 가치를 의미한다는 것이었습니다.

토큰을 구매해 본 적이 없는 사람들에게 토큰이란 AI 벤더(vendor)들이 비용을 청구하는 단위입니다. 전기처럼 계량되는 입력(input) 또는 출력(output)의 단어 파편입니다. 예상치 못한 청구서가 일반 뉴스에 오르내리기 시작했을 때 Global News는 쉬운 언어로 된 설명글을 작성했습니다, 심지어 r/singularity에서는 왜 계량 방식이 그렇게 작동하는지 설명하기 위해 Computerphile의 영상을 공유하기도 했습니다.

5월 말 무렵, Fortune은 토큰맥싱의 부고를 게시했습니다: 토큰 소비는 비즈니스 가치를 측정한 것이 아니라, 소비량을 측정한 것이었습니다. 이를 최적화(optimise)했던 기업들은 자신들이 최적화한 결과물을 정확히 얻게 되었습니다.

비용이 폭증한 이유

그 메커니즘은 신비롭지 않습니다. 채팅 프롬프트 (chat prompt)는 한 번의 측정된 교환입니다. 에이전트 (agent)는 루프 (loop)입니다. 계획을 세우고, 도구를 호출하며, 결과를 읽고, 재시도합니다. 그리고 모든 단계에서 토큰 (tokens)이 소모됩니다. Goldman Sachs는 에이전트 워크플로우 (agentic workflows)의 배수를 24배로 추정했습니다; Tom's Hardware는 표준 사용량보다 최대 1,000배 많은 토큰을 사용하는 사례들을 보고했습니다.

실무자들의 수치도 일치합니다. r/ollama의 한 사용자는 Cursor가 도구 호출당 과금 (per-tool-call billing) 방식으로 전환한 것을 실질적인 25배 가격 인상이라고 지적했습니다, 그 이유는 "각 도구 호출이 별도로 청구되기" 때문입니다. r/OpenAI의 한 개발자는 11월에 73억 5천만 개의 입력 토큰 (input tokens)을 소비했다고 보고하며, 다른 이들을 위한 생존 가이드를 작성했습니다.

그다음에는 "비용 절감"을 목적으로 AI를 배포하는 그 누구도 읽고 싶어 하지 않을 문장이 등장했습니다. Microsoft의 내부 데이터를 인용하여, Fortune은 이 기술을 사용하는 것이 종종 인간 직원을 고용하는 것보다 더 비용이 많이 든다고 결론지었으며, Forbes 또한 7월에 이와 같은 견해를 뒷받침했습니다. 가장 많이 인용되는 사례 연구는 간접적인 것이지만 시사하는 바가 큽니다. Marc Benioff의 팟캐스트 발언에 관한 널리 공유된 기록에 따르면, Salesforce는 새로운 엔지니어를 채용하지 않는 동안 올해 Anthropic 토큰에 약 3억 달러를 지출할 것이라고 합니다. 해당 스레드의 상위 댓글이 표현했듯이: "이것은 비용 절감 단계가 아니라 구조적 변화입니다."

예상치 못한 청구서의 구조

그 메커니즘을 천천히 살펴볼 가치가 있습니다. 왜냐하면 "예상치 못한 청구서"에서의 의외성은 부주의함 때문이 아니라 구조적인 문제이기 때문입니다. 네 가지의 복합적인 효과가 피해를 입힙니다.

컨텍스트는 매 턴마다 재청구됩니다. 대화는 기억하지 못하고, 다시 읽습니다. 각 교환(exchange)은 누적된 컨텍스트를 전송하므로, 긴 에이전트 세션은 자신의 히스토리를 반복적으로 비용을 지불합니다. 공급업체들은 프롬프트 캐싱(prompt caching)을 해결책으로 판매하며, 할인은 실제로 존재하지만 불균등합니다. r/OpenAI에서 73억 5천만 토큰의 스레드를 보면, 실무자들은 최신 모델 라인에서는 90%의 캐시 토큰 할인과 구형 모델에서는 50% 할인을 비교하고 있으며, 이것이 바로 캐시 전략이 예산 항목(budget line)이 된 이유입니다. Coinbase는 내부 캐시 적중률을 5%에서 60%로 올린 것을 비용 절반으로 이끈 세 가지 레버리지 중 하나로 제시했습니다.

모든 도구 호출은 측정되는 이벤트입니다. 계획을 세우고, 검색 도구를 호출하고, 결과를 읽고, 코드 도구를 호출한 후 실패하고 재시도하는 에이전트는 하나의 질문에 답하기 위해 여섯 번의 청구 가능한 교환(billable exchanges)을 사용했습니다. 이것이 Cursor의 도구 호출당 과금이 커뮤니티 계산에서 실질적으로 25배 가격 인상이 된 이유이며, 마이크로소프트가 Axios에게 에이전트 도구들이

계량기 수치를 읽는 주체가 아무도 없습니다. 최종적인 영향은 조직적입니다. 토큰 지출(token spend)은 재무 부서가 이미 모니터링하고 있는 도구들의 범위를 벗어나 있습니다. 그 결과, 인프라 팀이 10년 전 클라우드(cloud)를 위해 해결했던 질문, 즉 '누가, 어떤 워크로드(workload)에, 얼마를 썼으며, 그것이 그만한 가치가 있었는가?'라는 질문에 답하기 위해 구축된 AI 비용 관측성(cost-observability) 툴링이라는 거대한 가내수공업 산업이 생겨났습니다.

이 네 가지 중 어느 것도 오용이 아닙니다. 이것들은 설계된 대로 작동하는 가격 모델입니다. 그렇기에 이후에 이어지는 대응책들인 사용량 제한(caps), 감사(audits), 라우팅(routing)은 모두 공통된 한계를 가집니다. 즉, 이들은 이용 약관(terms)이 아닌 소비(consumption)를 조정할 뿐입니다.

후퇴: 토큰 최소화 (tokenminimizing)

기업들의 이러한 태도 변화에는 이제 고유한 명칭이 생겼습니다. The Information의 보도에 따르면, Meta는 비용이 수십억 달러에 달함에 따라 '토큰 최소화 (tokenminimizing)'라는 기치 아래 직원들의 AI 사용을 제한하고 있습니다. The Next Web은 이러한 흐름을 다음과 같이 분류했습니다: Copilot 접근을 제한하는 AT&T, 사내 에이전트 사용량을 제한하는 Walmart, 사용량 리더보드를 폐지한 Amazon, 그리고 Claude Code 토큰에만 한 달에 500달러에서 2,000달러를 지출하는 것을 발견한 Microsoft 엔지니어들까지 포함됩니다.

한 임원이 "AI 토큰 지출의 급격한 상승"이라고 묘사한 것처럼, Accenture는 직원들에게 불필요한 작업에 AI를 사용하는 것을 중단하라고 지시했습니다. 또한 TechCrunch는 기업들이 직원들이 사소한 작업에 예산을 전부 써버리는 것을 막기 위해 허둥대고 있다는 사실을 발견했습니다.

이러한 후퇴의 정교한 버전은 모델 라우팅 (model routing)입니다. 즉, 어려운 문제는 비용이 많이 드는 프런티어 모델 (frontier models)로 보내고, 그 외의 모든 것은 저렴한 모델로 보내는 방식입니다. CNBC는 라우팅을 OpenAI와 Anthropic의 구조적인 문제라고 불렀으며, 6월 말에는 토큰맥싱 (tokenmaxxing)에서 효율성 (efficiency)으로의 전면적인 전환을 보도했습니다. 비용 제어를 중심으로 한 전체 툴링 (tooling) 산업이 생겨났습니다.

라우팅 (routing)과 한도 설정 (caps)은 합리적입니다. 하지만 이는 또한 하나의 징후이기도 합니다. 스로틀링 (Throttling)은 타인이 제어하는 계량기 위에서 당신의 지출을 최적화하는 것뿐입니다. 벤더 (vendor)는 여전히 가격, 한도, 약관을 설정하며, 이 세 가지 모두를 하룻밤 사이에 변경할 수 있습니다.

[

]

개발자의 반란