Microsoft, AI 비용이 인간 직원 급여보다 더 많이 든다고 보고

오늘날 기업들은 기술의 생산성 이득을 최대한 짜내기 위해 직원들에게 가능한 한 많은 AI를 사용하도록 압박하고 있습니다. 하지만 이러한 압박은 균열을 일으키고 있으며, 그 균열은 회복 불가능할 수도 있습니다.

The Verge에 따르면, Microsoft는 직접적인 Claude Code 라이선스 대부분을 취소하기 시작했으며, 대신 엔지니어들이 GitHub Copilot CLI를 사용하도록 유도하고 있다고 합니다. 이는 이 회사가 처음 Claude Code에 대한 접근 권한을 개방하여 수천 명의 개발자, 프로젝트 매니저, 디자이너 및 기타 직원들이 코딩 실험을 하도록 권장한 지 불과 6개월 만에 나온 조치입니다. 이 기술은 빠르게 인기를 얻었습니다. 어쩌면 너무 빠르게 말이죠. 직원들이 사용하는 규모가 이제 기업으로 하여금 자사 엔지니어들이 의존하게 된 도구에 대해 입장을 번복하게 만들고 있습니다. The Verge에 따르면, Claude Code 라이선스를 취소하는 것이 Anthropic에 최대 50억 달러를 투자하고 Foundry 고객에게 Claude 모델에 대한 접근 권한을 제공하는 것을 포함하는 Microsoft의 Foundry 계약이나, Azure 컴퓨팅 용량을 구매하기 위한 Anthropic의 300억 달러 약속에는 영향을 미치지 않을 것입니다.

내부 AI 사용을 축소하고 있는 기업은 Microsoft뿐만이 아닙니다. Uber의 CTO인 Praveen Neppalli Naga는 지난 4월 The Information과의 인터뷰에서, 회사가 단 4개월 만에 2026년 AI 코딩 도구 예산 전체를 소진했다고 밝혔습니다. 이는 회사가 AI 도구 사용량에 따라 팀 순위를 매기는 내부 리더보드를 통해 도입을 적극적으로 장려한 이후에 발생한 일입니다.

이러한 보고들은 거대 기술 기업들이 이 기술에 걸었던 도박에 찬물을 끼얹을 수 있습니다. 일부는 AI "르네상스" 또는 "혁명"의 약속에 매달리고 있지만, 도입 비용은 완고한 병목 현상임이 드러나고 있습니다. 이러한 발전은 또한 AI로 인간의 노동을 대체하거나 보완하는 경제학이 초기 예측이 암시했던 것보다 더 복잡할 수 있음을 시사합니다. 이는 Nvidia의 응용 딥러닝 (applied deep learning) 부사장인 Bryan Catanzaro가 최근 Axios와의 인터뷰에서 언급한 내용과 일맥상통합니다.

그는 "우리 팀의 경우, 컴퓨팅 (compute) 비용이 직원 비용을 훨씬 초과합니다"라고 말했습니다.

Anthropic은 Fortune의 논평 요청에 즉각 응답하지 않았습니다. Microsoft는 별도의 언급을 제공하지 않았습니다.

새롭게 등장하는 AI 역설: 더 저렴해진 토큰, 더 커진 청구서

Uber와 Microsoft만이 직원들에게 가능한 한 많은 AI를 사용하도록 독려하는 기업은 아닙니다. Uber의 사례와 마찬가지로, Meta의 한 직원은 어떤 직원이 AI를 가장 많이 사용하는지 추적하기 위해 Anthropic의 AI 모델 이름을 따서 적절하게도 “Claudeonomics”라고 명명된 리더보드(leaderboard)를 만들었습니다. Amazon은 직원들에게 “toxenmaxx”, 즉 가능한 한 많은 AI 토큰(AI 컴퓨팅의 기본 구성 요소)을 사용하도록 압박하고 있습니다.

하지만 토큰 기반 가격 책정 시스템에서는 사용량이 늘어나고 효율성이 높아질수록 작업 비용이 더 비싸집니다. Goldman Sachs는 최근 소비자 및 기업이 AI 에이전트 (AI agents)를 도입함에 따라, 에이전트형 AI (agentic AI)가 2030년까지 토큰 소비량을 24배 증가시켜 월간 무려 12경(120 quadrillion) 토큰에 달할 것이라고 예측했습니다. 기업들이 생산성을 높이기 위해 AI 에이전트로 눈을 돌림에 따라, 개별 토큰의 가격이 하락하더라도 총비용은 급격히 상승할 수 있습니다.

하지만 소비가 증가함에 따라 개별 AI 토큰의 비용은 급격히 하락할 것으로 예상됩니다. 조사 기관인 Gartner의 최근 보고서에 따르면, 2030년까지 1조 개의 파라미터(parameter)를 가진 LLM(Large Language Model)—쉽게 말해 매우 정교한 AI 모델—에 대한 추론 (inference) 비용은 AI 기업들에게 2025년보다 거의 90% 저렴해질 것입니다. 그럼에도 불구하고 Gartner는 저렴해진 토큰이 기업용 AI의 비용 절감으로 이어지지는 않을 것이라고 예측했습니다. 그 이유는 에이전트형 모델 (agentic models)이 표준 모델보다 작업당 훨씬 더 많은 토큰을 필요로 하고, 증가하는 소비량이 하락하는 단위 비용을 앞지를 수 있으며, AI 제공업체들이 낮아진 비용을 소비자에게 완전히 전가하지 않을 것이기 때문입니다. 결과적으로 추론 비용은 상승할 가능성이 높습니다.

“최고 제품 책임자 (CPOs)들은 범용 토큰 (commodity tokens)의 디플레이션과 프런티어 추론 (frontier reasoning)의 민주화를 혼동해서는 안 됩니다”라고 Gartner의 시니어 디렉터 애널리스트인 Will Sommer는 성명을 통해 경고했습니다.

그러한 현실은 일부 기업이 AI 에이전트 (AI agents)를 배포하기 위해 세운 거창한 계획을 복잡하게 만들 수 있습니다. Nvidia의 CEO Jensen Huang은 최근 자신의 회사에서 모든 직원 옆에 100명의 AI 에이전트가 함께 일하게 될 날이 올 것이라고 생각한다고 말했습니다.

Huang은 디지털 작업자 (digital workers)가 기업 전반에 걸쳐 운영되는 에이전트 중심의 미래 (agentic future)를 홍보하는 CEO들의 광범위한 흐름 중 한 명입니다. 하지만 토큰 소비량 (token consumption)이 단위 비용 (unit costs)의 하락 속도보다 더 빠르게 증가한다면, 그 미래는 경영진이 예상하는 것보다 훨씬 더 무거운 청구서와 함께 올 수도 있습니다.

Fortune Brainstorm Tech는 대담한 아이디어들이 충돌하는 장이었습니다.

6월 8일~10일, 우리는 Brainstorm의 25주년을 기념하기 위해 모든 것이 시작되었던 Aspen으로 돌아갑니다.

지금 등록하세요.