추정된 Nvidia AI GPU 수량

추정된 Nvidia AI GPU 수량.

1,300,000 - Meta
1,000,000 - OpenAI
600,000 - xAI
400,000 - Google
150,000 - Anthropic

하지만 지배적인 tpot 내러티브는 Meta는 끝났고, Anthropic은 독자 노선을 걷고 있으며, Nvidia가 유일한 대안이라는 것입니다. 이는 수치와 일치하지 않습니다.

대안적인 현실들…

1. Jensen은 Meta가 AI를 가장 잘 사용한다고 말하는데, 그는 분명히 그곳에서 LLM 챗봇을 서비스하는 것을 의미하는 것이 아닙니다. Meta는 또한 AMD의 1위 구매자이기도 합니다.

2. Anthropic은 Nvidia가 아닌 커스텀 실리콘 (custom silicon)을 대규모로 사용하고 있습니다.

3. Google은 이미 수백만 개의 TPU를 배치했습니다.

4. 더 높은 서버 활용률 (server utilisation)로 추론 (inference)을 서비스하기 위해 분산 워크로드 (distributed workloads)를 작성하는 것이 현재의 격전지입니다. xAI는 11%의 활용률에 머물러 있었고, Meta는 44%입니다. Google이나 Anthropic은 어느 정도인지 누가 알겠습니까?

5. 상업적 트래픽의 대다수는 SOTA (최첨단 기술)에 집중되지만, 프런티어 (frontier)에서 시간을 버는 것은 비용이 많이 듭니다.

과거의 인터넷 경제학이 광고로 트래픽을 구매하는 것이었다면, 새로운 인터넷 경제학은 ML (머신러닝)로 트래픽을 구매하는 것입니다. 새로운 세상은 훨씬 더 "승자 독식 (winner takes all)" 구조이며, 훨씬 더 강력한 네트워크 효과 (network effects)와 강력한 선순환 피드백 루프 (virtuous feedback loops)를 가지고 있습니다.

하지만 모두가 챗봇으로 경쟁하는 것은 아닙니다. Google과 Meta는 모두 컴퓨팅 자원을 광고 수익화에 사용하고 있으며, 그들의 광고 수익은 전년 대비 각각 15%와 33% 성장하고 있습니다.

이토록 많이 다뤄지는 주제임에도 불구하고, 주요한 사각지대가 존재합니다. SF적인 구석에 너무 집착하고, 실제로 작동 중인 다양한 비즈니스 모델 (biz models)에 대해서는 충분히 이야기하지 않고 있습니다.