하이퍼스케일러의 Capex 투자의 미래는?

AI 시장이 “제일 좋은 모델만 쓰기”에서 “싼 모델로 갈아타기”로 바뀌는 중, AI 모델 회사(앤트로픽, OpenAI)엔 나빠 보여도 클라우드 3사(MS, 아마존, 구글)엔 최고의 호재.

비유하면.. AI 모델 회사는 자동차 만드는 회사고, 클라우드 회사는 다리 위 톨게이트다. 사람들이 페라리 같은 비싼 모델에서 싼 모델로 갈아타면 자동차 회사 매출은 줄지만, 싸진 만큼 사람들이 10배 더 많이 돌아다닌다. 어떤 차가 지나가든 톨게이트는 똑같이 통행료를 걷으니까, 클라우드는 오히려 돈을 더 벌게된다.

핵심은 저렴한 모델로 바꾸면 모델 회사가 먹던 마진은 0에 가까워진다. 하지만 이 토큰은 결국 누군가의 데이터센터에서 돌아야 하고, 클라우드는 비싼 모델이든 싼 모델이든 똑같이 35% 안팎의 인프라 마진을 챙긴다. 단가는 떨어져도 사용량이 폭발하니 클라우드 매출은 오른다.

MS, 구글이 처리하는 토큰량이 매년 몇 배씩 폭증 중이다. (구글은 월 480조에서 1년 만에 1.3천조) 추론 단가는 2년간 280배나 떨어졌는데도 총 사용량은 계속 늘어난다. 저렴해지니 더 많이 쓰는 것.

덤으로 클라우드가 더 유리해진 이유는 이제 여러 모델을 골라 쓰는 시대라, “어떤 요청을 어떤 모델로 보낼지” 관리하는 중간 관제탑이 중요해졌는데 이것을 클라우드가 처리.

6월 행정명령으로 강력한 AI 모델이 나라별로 접근이 갈리게 되면서, 전 세계 고객을 둔 기업은 단일 모델에 묶이지 않고 여러 모델을 깔아주는 클라우드에 의존할 수밖에 없어졌다.

결론은 누가 이기든 통행료는 클라우드가 걷는다는 얘기.