여러 주요 기업에서 무제한적인 AI 지출의 시대가 끝났으며, 그 경종을 울린 것은 폭주하는 엔지니어링 팀이 아니었습니다. 그것은 PDF를 슬라이드로 변환하는 사람들로부터 왔습니다. 404 Media에 따르면, Accenture 내부에서 유출된 오디오에는 이 회사의 에이전틱 AI (Agentic AI) 전략 리드인 Justice Kwak이 현재 대규모 조직 전반에서 나타나고 있는 패턴을 인정하는 내용이 담겨 있습니다: "실제로 토큰 소비를 주도하는 것은 우리 엔지니어들이 아닙니다. 많은 비엔지니어들입니다." 범인은 일상적입니다. 사무직 직원들이 일상적인 재포맷을 위해 AI 도구에 문서를 통과시키는 것이며, 이는 예산을 위협할 정도로 충분히 큰 규모인 것으로 보입니다. 그 결과는 이미 구체적입니다. Uber는 회사의 CTO가 4개월 만에 AI 예산 전체를 소진했다고 밝힌 후, Claude Code 및 Cursor를 포함한 직원의 AI 도구 사용을 제한한 것으로 알려졌습니다. 부과된 한도는 Claude Code, Cursor, 그리고 GitHub Copilot CLI를 통틀어 엔지니어당 월 $1,500였습니다. Walmart는 도입률이 예상을 훨씬 뛰어넘자 내부 AI 코딩 플랫폼인 Code Puppy를 통해 토큰에 대한 유사한 제한을 가했습니다. 이러한 추세에 구조적 압박을 더하는 것은 GitHub Copilot이 사용량 기반 요금제(usage-based pricing)로 전환하면서, 대규모 엔지니어링 팀이 의존해 왔던 정액 구독 모델이 종료된 것입니다. Accenture의 대응은 이 문제를 중심으로 제품을 구축하는 것입니다. Kwak은 회사가 AI 지출이 어디로 향하고 있는지, 그리고 적절한 수익을 창출하고 있는지에 대해 경영진에게 가시성을 제공하는 것을 목표로 하는 Token IQ라는 제품을 공식적으로 출시할 계획이라고 말합니다. 기업을 위한 AI FinOps라는 이러한 제안은 동일한 혼란에 직면한 다른 대규모 조직들의 관심을 끌 가능성이 높습니다. 더 넓은 기회는 AI 지출을 읽기 쉽게 만들어, 조직에 무엇을 썼는지뿐만 아니라 그 대가로 무엇을 얻었는지 보여줄 수 있는 사람의 몫입니다. Token IQ는 해당 분야의 초기 진입자 중 하나입니다.

이 패턴이 유지된다면, AI 비용 관리 도구(AI cost-management tooling)라는 전체 카테고리가 훨씬 더 큰 유효 시장(addressable market)을 찾게 될 것입니다. 관련 보도 내용: https://aiweekly.co/alerts/uber-walmart-impose-ai-token-caps-as-enterprise-costs-surge /u/Justgototheeffinmoon 님이 r/OpenAI에 제출 [link] [comments]