최근 보도에 따르면 Meta Platforms (NASDAQ: META)가 남는 AI 컴퓨팅 (AI compute) 자원을 대여할 방법을 모색하고 있다고 합니다. 이는 투자자들에게 쉬운 걱정거리를 안겨줍니다. 즉, Meta가 인프라를 너무 많이 구매했으며, AI 자본 지출 (capex) 사이클이 예상보다 빠르게 부족 상태에서 과잉 상태로 전환되고 있는 것이 아닐까 하는 우려입니다.

그러한 우려는 타당합니다. 하지만 불충분하기도 합니다.

*2009년에 Nvidia를 놓치셨나요? 이 희귀한 신호가 다시 나타나고 있습니다. 2009년에는 Nvidia라는 잘 알려지지 않은 칩 제조사를 향해 "Double Down" 신호가 나타났습니다. 수년 만에 처음으로, 동일한 "Total Conviction" 신호가 Nvidia 크기의 1/100에 불과한 기업을 향해 나타나고 있습니다. *계속 읽기 »

질문은 Meta가 오늘날 유휴 컴퓨팅 자원을 보유하고 있느냐가 아닙니다. 더 나은 질문은 Meta가 여전히 동일한 절박함으로 차세대 Nvidia (NASDAQ: NVDA) 시스템을 쫓고 있느냐 하는 것입니다.

만약 Meta가 Rubin을 위해 계속 싸우고, 자체 데이터 센터, 네오클라우드 (neoclouds), 그리고 클라우드 제공업체들을 통해 미래의 Nvidia 플랫폼 사이클을 이어간다면, 과다 구매 이야기는 너무 단순한 결론입니다. Meta는 AI 자본 지출 (capex)을 포기하는 것이 아닐 수도 있습니다. 오히려 가장 중요한 작업을 위해 최고의 시스템을 유지하면서, 컴퓨팅 플릿 (compute fleet) 중 우선순위가 낮은 부분들이 수익을 창출하도록 만들려는 시도일 수 있습니다.

과잉 용량이 AI 수요의 한계를 증명하는 것은 아니다

AI 인프라는 깔끔하게 가동되지 않습니다. 하이퍼스케일러 (hyperscaler)가 단순히 수천 개의 GPU를 구매하여 데이터 센터에 연결하고, 즉시 모든 칩을 프런티어 학습 (frontier training)에 사용할 수는 없습니다. 전력이 중요합니다. 냉각이 중요합니다. 네트워킹이 중요합니다. 지역적 용량이 중요합니다. 클러스터 (cluster)의 형태가 중요합니다. 워크로드 (workload)가 중요합니다.

그것이 바로 유휴 용량이 Meta가 AI 수요의 한계에 도달했음을 자동으로 의미하지 않는 이유입니다.

그것은 Meta가 잘못된 장소에서, 잘못된 시간에, 또는 플릿 (fleet)의 잘못된 부분에 잉여 용량을 가지고 있음을 의미할 수 있습니다. 이는 프런티어 컴퓨팅 (frontier compute) 자원을 너무 많이 보유하고 있는 것과는 다른 문제입니다.

하나의 칩이 특정 워크로드 (workload)에는 유용할 수 있지만, 다른 워크로드에는 최적화되지 않을 수 있습니다. 하나의 클러스터 (cluster)가 일반적인 추론 (inference)에는 충분히 훌륭할 수 있지만, 프런티어 모델 학습 (frontier model training)을 위한 적절한 환경은 아닐 수 있습니다. 데이터 센터 (data center)는 Meta의 내부 제품들이 이를 흡수할 준비가 되기 전에 이미 여유 용량을 보유하고 있을 수도 있습니다.

따라서 질문은 "Meta에 남는 컴퓨팅 자원이 있는가?"가 아닙니다.

질문은 "Meta에 남는 프런티어 컴퓨팅 (frontier compute) 자원이 있는가?"여야 합니다.

컴퓨팅 폭포 (The Compute Waterfall)

이를 생각하는 가장 명확한 방법은 컴퓨팅 폭포 (compute waterfall) 모델입니다.

가장 상단에는 프런티어 컴퓨팅 (frontier compute)이 위치합니다. 이는 모델 학습 (model training), 추론 (reasoning), 고부가가치 추론 (high-value inference), 광고 순위 지정 (ad ranking), 추천 (recommendations), 그리고 Meta의 핵심 비즈니스를 움직일 수 있는 제품들을 위한 가장 최신의, 가장 연결성이 뛰어난 클러스터 (clusters)를 의미합니다.

중간에는 프로덕션 컴퓨팅 (production compute)이 위치합니다. 이는 확장된 추론 (scaled inference), 내부 AI 도구, 기존 추천 시스템 (recommendation systems), 그리고 중요하지만 항상 최신 플랫폼을 필요로 하지는 않는 워크로드 (workloads)를 위한 용량입니다.