이 토큰들이 실제로 돈을 버는 데 도움이 되고 있나요?

어떤 기업은 하루에 10억 개의 토큰을 사용한다고 말할 수도 있으며, 이는 매우 진보된 것처럼 들립니다. 하지만 그 10억 개의 토큰은 아무도 읽지 않는 수많은 보고서, 수동 재작업이 필요한 수많은 코드, 그리고 정확도가 불안정한 수많은 고객 서비스 응답을 생성하는 데 쓰이고 있을 뿐일지도 모릅니다.

더 많은 토큰이 반드시 더 똑똑한 조직을 의미하지는 않습니다. 때로는 단순히 기업이 예산의 더 많은 부분을 계량기(meter)에 넘겨주고 있다는 것을 의미할 뿐입니다.

첫째, 기업들은 "가치 높은 토큰 (high-value tokens)"과 "가치 낮은 토큰 (low-value tokens)"을 구분하기 시작할 것입니다.

동일한 100만 개의 토큰이라도 어떻게 사용되느냐에 따라 완전히 다른 가치를 가질 수 있습니다. 고객 불만 사항의 자동 처리, 일회성 보고서 생성, 또는 단순한 문서 서식 지정에 사용되는 것과, 중요한 코드 생성 (code generation), 복잡한 제품 의사 결정, 또는 핵심 고객 전략 분석에 사용되는 것은 다릅니다. 미래에 AI를 구매하는 기업들은 단순히 총 소비량이 아니라 "토큰당 출력 (output per token)"에 집중하며, 마치 광고처럼 가격을 책정할 것입니다.

둘째, 기업들은 다양한 모델에 작업을 분산할 것입니다.

모든 문제에 가장 비싸거나 가장 강력한 모델이 필요한 것은 아닙니다. 단순한 분류 (classification), 요약 (summarization), 형식 변환 (format conversion)은 더 작거나 오픈 소스 (open-source) 모델이 처리할 수 있는 반면, 복잡한 추론 (reasoning), 주요 결정, 그리고 코드 생성 (code generation)은 더 강력한 모델로 라우팅됩니다. 기업들이 성숙해짐에 따라, 모든 작업을 "일류 (first class)" 모델로 보낼 가능성은 낮아질 것입니다.

셋째, AI 기업들은 가격 책정 모델을 변경하도록 강요받을 것입니다.

토큰 기반 가격 책정 (Token-based pricing)은 가장 명확하고 측정 가능한 단위로 남아 있기 때문에 사라지지는 않을 것입니다. 하지만 더 이상 유일한 모델은 아닐 것입니다. 기업들은 결과에 더 가까운 가격 책정을 요구할 것입니다. 해결된 티켓당, 병합된 코드 변경 건당, 또는 전환된 영업 리드 (sales lead) 건당 비용을 청구하거나, 적어도 토큰 가격과 함께 예산 상한선, 캐싱 할인 (caching discounts), 대량 할인 (bulk discounts), 그리고 작업 수준의 비용 추정치를 도입하게 될 것입니다.

Goldman Sachs의 보고서에 따르면, 소비자 및 기업 사이에서 에이전트형 AI (agentic AI)가 부상함에 따라 토큰 소비량은 2030년까지 24배 성장하여 월간 12경(120 quadrillion) 토큰에 달할 것으로 추정됩니다. AI 기업들에게 이는 매출 잠재력을 의미하지만, 기업 고객들에게는 비용에 대한 경고입니다.