월스트리트가 아직 가격에 반영하지 않은 AI 주도 비용 위기

모든 기술 붐은 결국 동일한 불편한 순간에 도달합니다. 질문의 내용이 '누가 가장 빠르게 성장하는가'에서 '누가 실제로 성장을 지속할 여력이 있는가'로 바뀌는 순간 말입니다. AI 소프트웨어 산업의 경우, 그 순간이 투자자들의 예상보다 더 빠르게 다가오고 있을지도 모릅니다.

이 논의를 촉발한 수치들은 결코 미미하지 않습니다. Bloomberg에 따르면, 미국의 4대 기술 기업(Alphabet, Amazon, Meta, Microsoft)만 해도 2026년에 AI 인프라에 6,500억 달러를 지출할 것으로 예측됩니다. CNBC에 따르면, Evercore와 Bank of America의 월스트리트 분석가들은 하이퍼스케일러(hyperscaler)의 총 AI 자본 지출(capex)이 2027년에 1조 달러를 넘어설 수 있다고 이미 전망하고 있습니다.

이것은 스택의 최상단에 있는 이야기입니다. 그 아래에서 해당 인프라를 기반으로 운영되는 기업들은 동일한 압박의 다른 버전에 직면해 있습니다. CloudZero의 보고서에 따르면, 기업용 소프트웨어 기업들의 월평균 AI 지출액은 전년 대비 36% 급증하여 62,964달러에서 85,521달러로 늘어났으며, 월 100,000달러 이상을 지출할 계획인 기업의 비중은 20%에서 45%로 두 배 이상 증가했습니다.

오직 51%의 조직만이 해당 지출에 대한 수익(return)을 확신을 가지고 계산할 수 있습니다. 자본은 빠르게 움직이고 있습니다. 하지만 그것이 제대로 작동하고 있는지에 대한 명확성은 그 속도를 따라잡지 못하고 있습니다.

규모 있는 AI 비용 지불의 문제점

AI 소프트웨어의 경제학은 한 가지 중요한 측면에서 전통적인 소프트웨어의 경제학과 구조적으로 다릅니다. 바로 추론(inference)은 공짜가 아니라는 점입니다. AI 시스템이 쿼리에 응답하거나, 문서를 처리하거나, 대화를 라우팅하거나, 작업을 완료할 때마다 컴퓨팅 자원(compute)을 소비합니다. 이러한 소비에는 비용이 따르며, 기업의 AI 사용량이 증가함에 따라 청구되는 비용도 함께 증가합니다.

더 많은 AI:

AI 도입 초기 단계였고 사용량이 적었을 때는 그러한 차이를 무시하기 쉬웠습니다. 하지만 CloudZero의 데이터가 시사하는 것처럼 기업 고객들이 현재 대규모로 AI 워크플로우 (AI workflows)를 실행하고 있는 상황에서는 이를 무시하기가 훨씬 더 어려워집니다.

그 결과, 업계 전반에 걸쳐 눈에 보이는 현상들이 나타나고 있습니다. 일부 AI 벤더 (AI vendors)들은 인프라 비용 (infrastructure costs)이 기존 가격 책정 당시의 가정을 초과함에 따라, 계약 주기 중간에 가격을 재조정하기 시작한 것으로 알려졌습니다. 반면, 다른 기업들은 동일한 비용 상승에도 불구하고 가격 안정성을 공개적으로 약속했습니다. 이 두 가지 대응 방식의 차이는 가격 전략이 아닌 인프라 (infrastructure)에서 비롯됩니다.