
Kimi 3가 학습 효율성을 추론에 적용할 수 없는 이유
요약
Kimi 3가 미국 SOTA 모델의 학습 효율성을 추론 단계로 가져올 수 없는 이유를 분석하며, AI 개발을 위해서는 높은 수준의 자본 지출(capex)이 필수적임을 강조합니다. 이는 클라우드 서비스 제공업체(CSP)들에게 장기적인 강세 요인으로 작용할 것이며, 관련 기업에 대한 투자를 권고합니다.
핵심 포인트
- AI 개발은 높은 자본 지출(capex)을 요구하며, 미국 시장의 지원이 필수적입니다.
- 최첨단 오픈 소스 모델의 추론 비용 절감 효과는 제한적일 것으로 예상됩니다.
- 마진 감소분은 클라우드 서비스 제공업체(CSP)로 이동할 가능성이 높습니다.
- 클라우드 인프라를 제공하는 기업에 대한 장기 투자가 유효합니다.
Kimi 3는 미국 SOTA(State-of-the-Art) 모델을 증류(distilling)하는 과정에서 얻은 학습 효율성을 추론 단계로 전달할 수 없습니다. 왜냐하면 그러한 학습 효율성은 미국 SOTA 모델들로부터 온 것이기 때문입니다.
실제로 Kimi 3는 미국 SOTA 모델들보다 훨씬 비효율적이며, 이는 미국 연구소들이 토큰 가격을 더 낮게 책정해야 했을 것임을 의미합니다.
이는 두 가지를 의미합니다:
-
AI 개발을 지속하려면 자본 지출(capex)이 높은 수준을 유지해야 합니다. 미국의 자본 지출 없이는 최첨단 오픈 소스 모델이 존재할 수 없습니다.
-
최첨단 오픈 소스 모델의 작업당 비용은 폐쇄형 SOTA와 거의 비슷하게 유지되므로, 추론에 대한 지출은 어쨌든 감소하지 않을 것입니다. 단지 마진을 AI 연구소에서 이러한 모델들을 대규모로 서비스하는 클라우드 서비스 제공업체(cloud service providers)로 이동시킬 뿐입니다.
우리는 이미 이것이 전개되는 것을 보고 있습니다. 이는 $CRWV와 $NBIS가 오늘 같은 하락장에서도 잘 버티고 있는 것으로 보아 클라우드 제공업체들에게는 강세적입니다.
클라우드에 장기 투자합니다.
$AMZN $MSFT $CRWV $NBIS
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Benchmark의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기