분석 - 더 저렴한 AI가 더 낫다: 치솟는 비용이 기업의 모델 선택 방식을 재편하고 있다

Aditya Soni 작성

6월 29일 (Reuters) - 실리콘밸리의 강력하고 값비싼 AI 모델들은 미래를 대비하려는 기업들에게 필수적이었습니다. 하지만 이제 점점 더 많은 기술 기업 CEO들이 더 광범위한 도입을 위해서는 더 저렴한 옵션이 결정적일 것이라고 주장하고 있습니다.

Microsoft의 Satya Nadella, Palo Alto Networks의 Nikesh Arora, 그리고 Coinbase Global의 Brian Armstrong과 같은 최고 경영진들은 더 작고 저렴한 모델들이 기업 요구 사항의 상당 부분을 처리할 수 있다고 말했습니다.

이러한 견해는 최근까지 AI 도구의 과도한 사용을 권장하며, 증가하는 소비를 생산성의 대리 지표로 취급했던 이른바 "토큰맥싱 (tokenmaxxing)"을 기업 내부에서 재평가한 결과입니다. 이제 그 비용 청구서가 부담으로 다가오기 시작했습니다.

AI 사용량을 측정하는 단위인 토큰 (token)의 가격은 하락하고 있지만, AI 기업들이 정액제 구독에서 사용량 기반 과금 방식으로 전환함에 따라 작업 완료 비용은 상승하고 있습니다. 이는 작업당 사용량을 추정하기 어렵게 만들면서, 기업들에게 예측 불가능하고 종종 더 높은 비용을 발생시키고 있습니다.

예를 들어, Uber의 경우 직원들이 AI 코딩 도구를 급격히 도입하면서 단 4개월 만에 2026년 AI 예산 전체를 소진했으며, 이로 인해 경영진이 사용량을 제한해야 했다고 보고되었습니다.

기업들이 AI 시스템을 안전하게 운영하도록 돕는 스타트업인 BlueRock의 CEO Harold Byun은 "라이선스 모델의 변경이 많은 사람을 놀라게 했습니다"라고 말했습니다. "그 직후, 고객들로부터 예산을 20%에서 30%까지 초과하는 사례가 나타나고 있다는 보고를 다수 받았습니다."

기업들의 막대한 비용 부담에 대한 우려

기업들이 AI를 더 많이 사용함에 따라, 이제 작업에 더 많은 단계, 더 많은 데이터, 더 긴 입력값이 포함되면서 비용이 초기 추정치를 넘어 급증하고 있습니다.

Gartner는 2028년까지 AI 코딩 비용이 평균 개발자 급여를 넘어설 것으로 추정하고 있으며, 해당 조사 기관의 설문 조사에 따르면 경영진의 4분의 3이 올해 기술 예산이 상승할 것으로 보고 있으며, 그중 거의 절반은 두 자릿수 급증을 예상하고 있습니다.

이로 인해 기업들은 더 저렴한 모델을 채택하고 있으며, 코딩과 같은 복잡한 작업에는 프리미엄 모델을 남겨두는 동시에 가장 비용 효율적인 시스템에 작업을 할당하기 위해 AI 마켓플레이스인 OpenRouter와 같은 라우팅 도구 (routing tools)로 눈을 돌리고 있습니다.

Citi의 보고서에 따르면, OpenRouter에서 처리된 오픈 소스 (open-source) 토큰 비중은 1월 34%에서 6월 65%로 급증했습니다.

이는 중국의 DeepSeek와 같은 오픈 소스 모델 제작사들에게 이득이 될 것으로 보입니다. 이들은 스타트업들 사이에서는 폭넓은 채택을 이끌어냈으나, 보안 문제로 인해 대기업 시장에 진입하는 데 어려움을 겪어왔습니다.

"기업 시장을 잡고 싶다면, 토큰 가격을 선제적으로 책정해야 합니다."라고 Palo Alto Networks의 Arora는 지난주 X(구 트위터)에 작성하며, AI 연구소들이 몇 년 후 토큰이 가질 것으로 예상되는 낮은 요율을 적용하여 고객들에게 오늘부터 요금을 부과할 것을 촉구했습니다.