AI의 감당하기 어려운 비용 위기

AI 봉투의 뒷면
나는 AI 플랫폼들이 마약 판매업자의 알고리즘인 "첫 번째는 무료" 전략을 실행하고 있다고 지적했습니다. 그들은 제품 사용에 막대한 보조금을 지급함으로써 압도적인 수요를 창출하고 있었습니다. 그들은 이 수요를 대규모 투자를 정당화하는 데 사용했으며, 투자의 수익을 증명해야 할 시점이 되었을 때 사용자들이 너무 중독되어 수익 창출에 필요한 훨씬 높은 가격을 기꺼이 지불하게 될 것이라는 희망을 품고 있었습니다.

[IMG:1] |
| David Cahn, '23년 9월 |

AI의 2,000억 달러 질문. 불과 9개월 후, Cahn은 동일한 분석을 다시 수행했습니다.

AI의 6,000억 달러 질문. 그의 수익 격차 추정치는 세 배로 늘어났습니다. Cahn 혼자만이 아니었습니다. Ed Zitron과 같은 독립 저널리스트들은 내가 지적하기 훨씬 전부터 이 문제를 경고해 왔습니다.

나는 주류 비즈니스 언론이 직원들이 소모하는 토큰 (token) 비용에 대해 기업들이 불만을 터뜨리는 것을 주목하기 시작한 몇 달 전부터 이 포스트를 쓰기 시작했습니다. 그 이후로 그 흐름은 졸졸 흐르는 시냇물에서 홍수로 변했고, 이로 인해 포스트를 마무리하기가 어려워졌습니다. 본문 아래쪽에는 손을 들어 올리며(포기하며) 그 홍수 속에서 추출한 작은 샘플을 쏟아내겠습니다.

한 가지 어려움은 보조금 규모에 대한 추정치가 매우 다양하다는 점이었는데, 일반적으로 플랫폼이 1달러의 수익을 창출하기 위해 8달러에서 14달러의 비용을 지불하는 범위 내에 있었습니다. Ed Zitron의 최근 포스트 두 개가 이 문제를 명확히 밝혔습니다.

[IMG:2] |
| 출처 |

AI의 망가진 경제학 (Brokenomics)
Zitron은 다음과 같이 보고했습니다:

매우 AI 친화적인 반도체 분석 기관인 SemiAnalysis는 OpenAI와 Anthropic의 다양한 구독 등급의 한도에 도달할 때까지 무작위적인 장기 코딩 작업으로 구성된 테스트를 실행했습니다.

그들의 결과는 충격적이었습니다.

월 200달러로 Anthropic 토큰 8,000달러어치 또는 OpenAI 토큰 14,000달러어치를 소모할 수 있다

맞습니다. 월 200달러의 Anthropic 구독을 가진 사람은 8,000달러 상당의 토큰을 소모할 수 있으며, 월 200달러의 ChatGPT 구독을 사용하면 14,000달러 상당의 토큰을 소모할 수 있습니다.

[IMG:3] |
| 출처 |

토큰 가격을 보조(subsidizing)하지 않는다는 것은, Anthropic이 기업 고객에게 최대 40배, OpenAI가 최대 70배까지 보조금을 지급하고 있다는 것을 의미합니다. 엄청난 수요가 발생하는 것도 당연합니다! 하지만 OpenAI의 보조금이 Anthropic의 175%에 달함에도 불구하고, 최근 기업들의 OpenAI 채택률은 정체된 반면 Anthropic의 채택률은 급증했습니다.

|
| 출처 |

현재의 보조금 체계 하에서는 사용자가 자신의 속도 제한(rate limit)의 25%만 사용하더라도 최악의 경우 -25%의 매출 총이익률(gross margin)을 기록하게 됩니다. 당연히 이와 같은 판매 보조는 용광로에 현금을 쏟아붓는 것과 같습니다. 우리는 OpenAI와 Anthropic이 막대한 규모의 지분(equity)을 조달하는 것을 보았지만, 두 회사 모두 비상장 기업이기 때문에 지출이나 매출에 대한 세부 사항은 알 수 없었습니다.

이 상황은 Zitron이 OpenAI의 2025년 재무 제표를 확인하고 다음과 같은 내용을 게시하면서 바뀌었습니다:

OpenAI의 2025년 손실액이 약 8배 증가하며 지출액이 340억 달러에 달함

그 내용은 다음과 같습니다:

OpenAI는 130.7억 달러의 매출, 340억 달러의 비용 및 지출, 그리고 209.2억 달러의 손실을 기록했으며, 회사에 귀속되는 순손실은 385.3억 달러였습니다. 수치가 다소 복잡한 이유는 다음과 같습니다:

2025년은 OpenAI가 비영리 단체에서 영리 법인으로 전환된 해였으며, 이로 인해 전환권(convertible interests) 및 신주인수권 부채(warrant liability)의 공정 가치 변동으로 인해 415.5억 달러의 손실이 발생했습니다.

정말 끔찍한 수치들 중 아마도 가장 충격적인 것은 다음과 같았을 것입니다:

...

결과적으로, 2025년 OpenAI에 귀속되는 순손실은 385억 달러였습니다.

연말 기준으로 OpenAI는 500억 달러가 조금 넘는 자산을 보유하고 있었으며, 그중 거의 절반이 현금이었습니다.

즉, OpenAI는 다음과 같이 지출했습니다:

매출: 130.7억 달러

• ...
  영업 및 마케팅(Sales and Marketing): 57.3억 달러

매출의 44%를 영업 및 마케팅에 사용했습니다!

AI 거품을 유지하기 위해 필요한 과열(hype)은 믿을 수 없을 정도로 비쌉니다. 이러한 호화로운 지출에도 불구하고, 기업들의 채택은 정체되어 있습니다.

미국 주식 시장은 SpaceX, Anthropic, OpenAI라는 세 곳의 AI 기업 IPO(기업공개)를 마주하고 있습니다. 이들은 각각 세계적인 수준의 허풍쟁이(bullshitter)들이 이끌고 있으며, 각각 분기당 수백억 달러를 잃고 있고, SpaceX를 제외한 모두가 자사 제품에 대한 압도적인 수요를 홍보하고 있습니다 [1]. 하지만 상장 이후, 이들은 막대한 자본 투자(capital investments)에 대한 수익을 창출할 수 있을 만큼 충분한 요금을 부과해야 할 것입니다. 이상적으로는, 필요한 급격한 가격 인상을 IPO 자금이 은행에 들어올 때까지 미루었어야 했습니다.

안타깝게도, 이들의 자금 소진율(burn rate)이 너무 높아 가격 정상화를 향한 일부 성급한 조치들을 취할 수밖에 없었습니다. 지난 4월 Ed Zitron은 다음과 같이 보고했습니다.

Microsoft, GitHub Copilot 사용자를 토큰 기반 과금 방식으로 전환하고 속도 제한(Rate Limits) 강화:

'Where’s Your Ed At'이 확인한 유출된 내부 문서에 따르면, Microsoft는 AI 코딩 제품인 GitHub Copilot의 학생 및 유료 개인 등급에 대한 신규 가입을 일시 중단하고, 속도 제한(rate limits)을 강화하며, 궁극적으로 사용자를 '토큰 기반 과금(token-based billing)' 방식으로 전환하여 실제 토큰 소진 비용에 따라 요금을 부과할 계획입니다. Anthropic, OpenAI, Microsoft 모두 현재 고객들을 구독 방식에서 토큰 기반 가격 책정 방식으로 전환했습니다. 헤비 유저(serious users)들에게 이는 눈물이 날 정도로 비싼 비용입니다. Jamie John, Rafe Rosner-Uddin, Ryan McMorrow의

해당 문서는 토큰 기반 과금이 Microsoft의 최우선 과제였음에도 불구하고, 1월 이후 GitHub Copilot 운영 비용이 주 단위로 거의 두 배 가까이 증가함에 따라 최근 몇 달 사이 더욱 시급해졌다고 밝히고 있습니다.

토큰 기반 과금으로의 전환은 GitHub 사용자들이 플랫폼 사용량과 프롬프트가 소비하는 토큰 수, 즉 얼마나 많은 컴퓨팅 자원(compute)을 사용하는지에 따라 요금을 부과받게 됨을 의미합니다.

'우리는 괴물을 만들었습니다': 비용이 예산을 압박함에 따라 기업들이 AI 사용을 억제하다는 한 중소기업 CEO의 말을 인용하고 있습니다:

하지만 Anthropic이 5월에 토큰 기반 과금 방식(token-based pricing)으로 전환했을 때 그 회사는 충격을 받았습니다. Busse는 "첫날 지출이 7배나 늘어났고, 저는 '아, 우리가 괴물을 만들었구나'라고 생각했습니다"라고 말했습니다. "[대규모 언어 모델 (Large Language Model)] 기업들이 그동안 우리의 모든 사용량을 보조(subsidising)해 왔으나 이제는 더 이상 그렇지 않습니다. 사용자 기반 과금 방식(User-based pricing)은 보호막이 되어줍니다." 따라서 최근 몇 주 동안 생성형 AI (LLM)가 너무 비싸다는 아이디어가 주류 비즈니스 미디어를 장악했습니다. 그 예로는 Bloomberg의 영상

Major Companies Reconsider AI Costs (주요 기업들이 AI 비용을 재고하다),
Scott Galloway의 영상

AI May Not Be Worth The Cost — Here’s Why (AI가 비용만큼의 가치가 없을 수도 있는 이유),
Derek Thompson의

The AI Boom Has Entered Its 'Wait, Is This Worth It?' Era (AI 붐이 '잠깐, 이게 그만한 가치가 있나?' 시대로 진입했다),
그리고 Jowi Morales의

*AI cost crisis hits tech giants as employee 'tokenmaxxing' backfires, sparking corporate pullback at Microsoft, Meta, and Amazon — agentic AI eats up to 1000x more tokens than standard AI (직원들의 '토큰맥싱'이 역효과를 내며 AI 비용 위기가 빅테크 기업들을 강타하고, Microsoft, Meta, Amazon의 기업적 후퇴를 촉발하다 — 에이전트형 AI는 표준 AI보다 최대 1000배 더 많은 토큰을 소비한다)*가 있습니다. 그는 다음과 같이 언급합니다:

AI를 사용하는 것이 사람을 고용하는 것보다 더 비싸다는 사실이 이제 명백해졌으며, 특히 현재로서는 생산성 향상이 제한적이기 때문입니다. 비용 문제에 대해 AI 혐오론자들만 불평하고 있다고 생각하지 마십시오. Bruno Ferreira의 다음 글을 확인해 보시기 바랍니다:

Nvidia exec says AI is more expensive than actual workers — yet some companies don't see the extra costs as a negative (Nvidia 임원은 AI가 실제 노동자보다 더 비싸다고 말하지만, 일부 기업은 추가 비용을 부정적으로 보지 않는다):

Nvidia의 응용 딥러닝(applied deep learning) 부사장인 Bryan Catanzaro는 최근 Axios에 "우리 팀의 경우, 컴퓨팅 비용(cost of compute)이 직원 비용을 훨씬 상회합니다"라고 말했습니다. 이는 골드러시를 위한 삽을 파는 회사(Nvidia)로부터 나온 매우 흥미로운 발언입니다.

이러한 관점은 Uber의 CTO인 Praveen Naga와도 공유됩니다. 그는 "2주 전 기준으로, 필요할 것이라고 생각했던 예산이 이미 다 써버려져서 처음부터 다시 계획을 세워야 했다"라고 밝혔습니다. 마찬가지로, Swan AI의 Amos Bar-Joseph은 얼마 전 LinkedIn에 4인 규모의 팀이 Anthropic(Claude의 제작사)으로부터 받은 11만 3천 달러의 청구서가 얼마나 자랑스러운지에 대해 게시했습니다.

단순하게 계산해 보면, 1인당 월 2만 8천 달러에 달하는 이 금액은 아마 각 개인의 월급보다 더 많을 것입니다. 현재

Google과 같은 거대 독점 기업들조차 그 막대한 부채를 상환할 만큼 충분한 이익을 내지 못하고 있습니다. AI는 단순히 신기함을 제공하는 산업에 머물러서는 안 됩니다. 이 부채를 상환하기 위해서는 엄청난 규모로 인간의 노동력을 대체해야만 합니다. 낙관적으로 가정하여, AI가 언젠가 10%의 수익률(profitability margin)을 달성하고, 인간 노동력과 비용 균등(cost parity)을 이루며, 대부분의 업무를 완수할 수 있는 능력을 갖춘다고 가정해 봅시다 (현재는 이 중 어느 것도 해당되지 않습니다). 미국의 평균 연봉은 대략 66,000달러이므로, 10%의 이익을 기준으로 하면 AI 기업은 대체하는 일자리당 연간 평균 6,600달러를 벌게 됩니다. 부채 상환에 필요한 3,090억 달러를 창출하려면, AI 산업은 4,680만 개의 일자리를 대체해야 하며, 이는 현재 미국 일자리 수의 약 27%에 해당합니다.

이 모든 것이 매우 대략적인 계산이긴 하지만, 이는 AI 산업이 쌓아 올린 부채로 인해 발생한 암묵적인 도박을 극명하게 보여줍니다. 이 부채를 단순히 채무 불이행(default)하지 않기 위해서라도, AI 산업은 AI의 경제성에 대해 극도로 낙관적인 전망을 하더라도 경이로운 규모로 인간의 노동력을 빠르게 대체해야만 합니다.

임금과 급여는 시간당 평균 32.60달러였으며 고용주 비용의 69.9%를 차지했고, 복리후생 비용은 시간당 평균 14.01달러로 나머지 30.1%를 차지했습니다. 따라서 일자리당 평균 이익은 약 9,500달러가 될 것이며, 대체되는 일자리의 수는 약 32,500개가 될 것입니다.

토큰 기반 가격 책정(token-based pricing)으로의 전환은 어떻게 받아들여졌을까요? 최근의 세 가지 뉴스 조각을 통해 추측해 볼 수 있습니다:

• OpenAI의 Sam Altman은 비용이 고객들에게 "거대한 문제"가 되었다고 말했으며, 기업 시장에서 경쟁사인 Anthropic PBC의 우세를 저지하기 위해 "과감한" 가격 인하를 고려하고 있다고 밝혔습니다.
• Kyle Orland의 보도에 따르면
  Anthropic이 Claude Agent SDK에 대한 토큰 기반 과금을 "일시 중단"했습니다:

지난달, Anthropic은 많은 서드파티 (third-party) 앱을 포함하여 자동화 중심의 Claude Agent SDK를 헤비 유저(heavy users)로 사용하는 사용자들의 비용을 실질적으로 대폭 인상할 예정이었던 과금 체계 변경을 발표했습니다. 그러나 월요일, Anthropic은 해당 가격 변경안이 시행되려는 바로 그 시점에 이를 일시 중단한다고 갑작스럽게 발표했으며, 이에 따라 Agent SDK 사용자들은 기존 Claude 구독의 더 관대한 사용 한도(usage limits)를 계속해서 이용할 수 있게 되었습니다.

Microsoft, 2026년 6월 30일부로 Claude Code에서 Copilot CLI로 전환 계획 발표:

보도에 따르면 Microsoft는 내부 AI 코딩 비용을 억제하기 위한 노력의 일환으로, 2026년 6월 30일까지 Experiences and Devices 부문의 엔지니어들을 위한 대부분의 Claude Code 접근 권한을 취소하고, Windows, Microsoft 365, Outlook, Teams 및 Surface를 담당하는 팀들을 GitHub Copilot CLI로 전환할 예정입니다. 이 결정은 단순한 조달(procurement) 차원의 조정 그 이상입니다. 이는 세계에서 가장 공격적인 AI 소프트웨어 기업이 현재 모든 대규모 엔지니어링 조직이 직면하고 있는 것과 동일한 종량제 과금(metered-billing) 문제에 부딪혔을 때 어떤 일이 발생하는지를 보여주는 드문 사례입니다.

각주

• xAI의 제품은 직원들조차 사용하지 않을 정도로 형편없으며, Musk는 이를 처음부터 다시 작성(re-written)해야 한다고 말했습니다. 따라서 xAI는 자신의 컴퓨팅 인프라를 경쟁사들에게 대여하는 것으로 전락했습니다.