토큰 대폭락 시대: 기업들이 직원들에게 AI 사용을 장려한 후 빠르게 정책을 수정하는 이유

기업들이 직원들에게 이메일 작성부터 프레젠테이션 제작까지 모든 것에 AI를 사용하도록 독려한 지 불과 몇 달 만에, 일부 기업들은 청구서가 도착하면서 속도를 늦추고 있다.

'토큰 대폭락(Tokenpocalypse)'이라 불리는 이러한 갑작스러운 정책 역전은, 광범위한 AI 도입이 막대한 비용을 수반할 수 있다는 사실을 기업들이 깨닫게 되면서 발생했다.

필독 자료

Jeff Bezos가 100달러부터 임대 주택에 투자할 수 있게 해주는 플랫폼을 지지하는 이유 — 실제로 집주인이 아니어도 부를 쌓는 6가지 방법

Dave Ramsey가 미국인 약 50%가 저지르는 큰 사회보장(Social Security) 실수 경고 — 그것이 무엇이며, 즉시 고칠 수 있는 3가지 간단한 단계

43세 미니언들이 자산의 25%만을 주식에 보유하고 있는 이유. 그들의 돈은 실제로 어디로 가고 있는가

404 Media가 보도한 유출된 내부 오디오에 따르면 (1), 컨설팅 거대 기업 Accenture는 치솟는 토큰 비용을 억제하기 위해, PDF를 프레젠테이션 슬라이드로 변환하는 등의 일상적인 작업에 직원들이 AI를 사용하는 것을 만류하고 있다. 여기서 '토큰(token)'은 대규모 언어 모델(large-language model)이 한 번에 처리할 수 있는 데이터의 가장 작은 단위이며, 가격 책정은 토큰 소비량에 따라 달라진다.

Accenture의 agentic AI 전략 책임자인 Justice Kwak은 회의에서

AI 투자가 급증함에 따라 기업들은 점점 다른 질문을 던지고 있습니다. '토큰 대폭락(Tokenpocalypse)'은 이러한 변화를 반영합니다. 한때 직원들에게 거의 모든 것에 AI 사용을 장려했던 기업들이 이제는 제한을 설정하고 기술이 가장 큰 가치를 제공하는 곳에 집중하기 시작한 것입니다.

Drexel University의 College of Computing & Informatics에서 조교 교수(assistant teaching professor)를 맡고 있는 Pragati Awasthi는 Moneywise와의 인터뷰에서 "쉽게 말해, 지출이 증명보다 앞섰다"라고 말했습니다.

Awasthi에 따르면 낮은 가격은 기업들이 AI를 훨씬 더 자주 사용하도록 장려했으며, 이는 저렴한 토큰으로 인한 절감분을 상쇄하고 있습니다. 개별 AI 토큰의 비용은 2023년 이후 거의 90% 가까이 하락했지만, 전체 지출액은 여전히 두 배가 되었습니다.