Anthropic이 Fable 5를 Max 및 Team Premium에 50% 제한으로 포함시킨 것은 스스로 폭로하는 것이다.
요약
Anthropic이 Fable 5를 Max 및 Team Premium에 50% 제한으로 제공하는 것은 추론(inference) 자원 고갈을 스스로 드러낸 것이다. 이는 컴퓨팅 파워 확보의 어려움과 비용 증가가 AI 산업 전반의 문제임을 시사한다.
핵심 포인트
- AI 모델 사용량 급증에 따라 추론(inference) 자원이 고갈되고 있다.
- 향후 경쟁 우위는 저렴한 추론을 제공하는 컴퓨팅 인프라를 가진 기업이 가질 것이다.
- 하이퍼스케일러와 칩 공급업체들이 핵심 투자 대상이 될 전망이다.
Anthropic이 Fable 5를 Max 및 Team Premium에 50% 제한으로 포함시킨 것은 그들 스스로가 자신들을 폭로하는 것이다.
그들은 추론(inference) 자원이 고갈되고 있다. 기본적으로, 모든 구독 등급에서 Fable을 최대 한계치로 제공할 만큼 충분히 저렴한 컴퓨팅 파워를 보유하고 있지 않기 때문에, 가장 많이 사용되는 플랜부터 제한하고 Pro 사용자들에게 $100 크레딧을 지급하여 시간을 벌고 있는 것이다.
'수요 예측이 어려웠다'는 프레이밍은 이 모델이 얼마나 많은 컴퓨팅 자원을 소모하는지 과소평가했다는 것의 정중한 표현이다.
모든 AI 연구실이 지금 같은 벽에 부딪히고 있다. 모델들은 계속 똑똑해지고, 사용자들은 그것들을 더 열심히 사용하며, 추론 비용은 누구도 용량을 확보할 수 있는 속도보다 빠르게 증가하고 있다.
따라서 이 경쟁에서 승리하는 사람은 더 저렴한 추론을 제공할 수 있는 사람일 것이다. 이것이 결국 중요하게 작용할 것이다.
바로 그 지점에서 컴퓨팅 인프라(compute infra) 관련 투자는 엄청나게 낙관적이다. 랙을 운영하는 하이퍼스케일러와 그들에게 칩을 공급하는 칩 회사들이 이 시대의 실제 '선택과 삽' 베팅 대상이다.
이것이 우리가 지금 향하고 있는 미래이다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @socialwithaayan (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기