기업 토큰 지출이 1년 만에 21배 늘었다는 숫자가 나왔음. 21%가 아니라 21배임.

2주 전 All-In 팟캐스트에서 나온 얘긴데 지금 다시 들으니 요즘 흐름이랑 다 이어짐. 법인지출 관리사 RAMP 고객사 기준 숫자고, CFO들이 통제가 안 돼서 토큰 지출 관리 상품까지 나왔음. 진행자들 결론이 셌음 — 이 속도면 어닝 미스가 토큰비에서 나오는 분기가 온다는 것. 그리고 Fable 5에 던지는 프롬프트의 98%는 한 단계 싼 모델로 충분한데, 엔지니어는 돈에 묶여 있지 않아서 그 트레이드오프를 절대 안 한다는 것.

모델값이 싸지는데 지출이 21배 느는 건 모순이 아님. 싸질수록 더 쓰는 거임. 그래서 돈이 흐를 곳도 세 갈래로 보임. 지출을 통제하고 라우팅하는 층, 추론을 로컬로 내리는 층(애플 M7 울트라가 램 1.5TB를 지원할 거라는 보도가 이미 있음 — 지난 세대 프런티어급이 책상 위에서 돎), 그리고 전기(차마스 계산으로 미국은 2050년까지 캘리포니아 2.5개분 전력이 부족함).

지능이 공짜가 될수록 계산서는 커짐. 그 계산서를 줄여주는 쪽이 다음 장사라고 봄.