Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
기업의 AI 토큰 지출이 1년 만에 21배 급증하며 CFO들의 관리 부담이 커지고 있습니다. 모델 비용 하락에도 불구하고 사용량 폭증으로 인해 지출 통제, 로컬 추론, 전력 인프라 분야가 새로운 기회로 부상하고 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @j90236317 (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기기업 토큰 지출이 1년 만에 21배 늘었다는 숫자가 나왔음. 21%가 아니라 21배임.
2주 전 All-In 팟캐스트에서 나온 얘긴데 지금 다시 들으니 요즘 흐름이랑 다 이어짐. 법인지출 관리사 RAMP 고객사 기준 숫자고, CFO들이 통제가 안 돼서 토큰 지출 관리 상품까지 나왔음. 진행자들 결론이 셌음 — 이 속도면 어닝 미스가 토큰비에서 나오는 분기가 온다는 것. 그리고 Fable 5에 던지는 프롬프트의 98%는 한 단계 싼 모델로 충분한데, 엔지니어는 돈에 묶여 있지 않아서 그 트레이드오프를 절대 안 한다는 것.
모델값이 싸지는데 지출이 21배 느는 건 모순이 아님. 싸질수록 더 쓰는 거임. 그래서 돈이 흐를 곳도 세 갈래로 보임. 지출을 통제하고 라우팅하는 층, 추론을 로컬로 내리는 층(애플 M7 울트라가 램 1.5TB를 지원할 거라는 보도가 이미 있음 — 지난 세대 프런티어급이 책상 위에서 돎), 그리고 전기(차마스 계산으로 미국은 2050년까지 캘리포니아 2.5개분 전력이 부족함).
지능이 공짜가 될수록 계산서는 커짐. 그 계산서를 줄여주는 쪽이 다음 장사라고 봄.