컴퓨팅

가속 서버 판매 자체가 가속화되고 있다

F-18A 전투기가 항공모함 갑판에서 이륙하여 50,000피트 상공의 장거리 폭격기를 공격하는 것과 서버 시장의 매출 추이 사이에 어떤 차이가 있는지 아십니까?

저도 모르겠습니다.

어느 쪽이든, 높이를 보기 위해 목을 빼게 됩니다.

6월에 마감된 2분기 기준으로 IDC는 전 세계에서 1,663억 2,000만 달러의 서버가 소비되었으며, 이는 전년 대비 52% 증가했고 직전 분기 대비로는 놀라운 35.6% 증가를 기록했다고 추정합니다. 우리는 기업 컴퓨팅의 60년 역사 동안 이런 것을 본 적이 없습니다. 그리고 이것을 증명하기 위해 닷컴 버블 정점부터 오늘까지 전 세계 서버 분기별 판매량을 보여주는 차트가 있습니다.

우리는 시스템 매출의 절반이 우리가 일반적으로 슈퍼컴퓨터라고 부르는 것에 사용되고, 나머지 절반의 3분의 2는 그 슈퍼컴퓨터를 위한 집사 및 비서 역할을 하는 데 쓰이고, 남은 3분의 1은 단지 전통적인 데이터 처리, 데이터 분석, 웹 인프라 워크로드에 사용되는데, 이는 불과 10년 전만 해도 기업 컴퓨팅의 최첨단 상태를 대표하던 것이었습니다.

2026년 2분기에 서버 노드 및 랙 스케일 시스템에 지출된 1,623억 2,000만 달러 중 약 52.5%가 GPU 가속 시스템을 위한 것이었으며, 이는 874억 달러로 계산됩니다. IDC는 공개 분기별 서버 시장 추적 보고서에서 GPU 가속 머신의 평균 판매 가격이 전년 대비 118,600달러에서 43.5% 상승한 170,220달러였다고 밝혔습니다.

이 수치는 몇 가지 통찰력을 계산하는 데 사용될 수 있습니다.

먼저, 이 수치를 통해 판매된 장치(unit) 수를 계산할 수 있는데, 그 결과 GPU 시스템의 출하량이 감소한 것으로 나타났습니다. 이는 여러 개의 메모리 도메인을 가지고 독립적이고 분리된 서버 노드에서, 모든 GPU와 일반적으로 랙에 있는 CPU를 아우르는 메모리 도메인을 가진 랙스케일(rackscale) 시스템으로 전환되는 데 따른 것입니다. 2분기에는 개별 GPU 시스템 출하량이 전년도 2분기의 575,278대에서 10.7% 감소한 513,453대로 떨어졌습니다.

이것이 알려주는 또 다른 점은, 여전히 많은 고객들이 단지 네 개 또는 여덟 개의 GPU만 탑재한 '팻 서버 노드(fat server node)' 형태의 GPU 가속 머신을 구매하고 있으며, 논의되는 것과 달리 모든 구매가 랙 내 모든 장치에 메모리 일관성(memory coherence)을 갖춘 랙스케일 시스템만을 위한 것은 아니라는 것입니다. 이는 Nvidia B200 GPU를 사용한 Grace-Blackwell NVL72 랙스케일 시스템이 대략 4백만 달러 정도의 비용이 들고, B300 GPU를 사용하는 추론(inference)-튜닝된 NVL72가 누가 묻느냐에 따라 약 1백만 달러 차이가 나지만 5백만 달러 정도의 비용이 든다는 점에서 알 수 있습니다.

IDC가 제시한 GPU 시스템의 평균 판매 가격(ASP)은 Nvidia RTX Pro 6000과 같은 저렴한 PCI-Express 카드를 사용하는 매우 많은 저가형 시스템을 의미합니다. 이 등급의 GPU를 사용한 4웨이 노드는 CPU, 스토리지 및 네트워크 구성에 따라 9만 달러에서 12만 5천 달러 수준이며, 8웨이 버전은 그 두 배인 약 18만 달러에서 25만 달러 사이입니다. 이는 ASP보다 높은 금액입니다. 만약 8웨이 서버 노드에 B200 또는 B300 GPU를 사용하려면, 아마도 40만 달러에서 50만 달러 정도의 비용을 예상해야 합니다.

이는 IDC가 랙스케일 시스템의 트레이(tray)를 하나의 노드로 계산하는 등 정말 어리석은 일을 하지 않는 한 피할 수 없는 결론입니다. 저는 그런 경우는 아니라고 생각합니다.

IDC가 언급한 또 다른 흥미로운 점은 XPU 시스템의 판매량입니다. 이 시스템들은 AI 워크로드만을 실행하기 위해 다른 종류의 행렬 연산 엔진을 사용하며, GPU가 할 수 있는 범용 작업까지 처리하지는 않습니다. 2분기에는 판매량이 3.4배 증가하여 275억 달러에 달했습니다. 저희는 IDC로부터 ASP(평균판매가격)를 받지 못했기 때문에 이 장치들의 출하량을 정확하게 계산할 수는 없지만, XPU가 GPU 가격의 절반보다 저렴하다고 가정한다면, XPU 시스템의 ASP는 약 85,000달러에 달하고 2026년 2분기의 출하량은 약 32만 5천 대가 될 것으로 예상됩니다. 여기서 언급된 출하량 수치는 모든 클라우드와 하이퍼스케일러, 그리고 AI 모델 빌더 중 한 곳까지 모두 추론(inference) 칩을 개발하고 있기 때문에 시간이 지남에 따라 증가할 것입니다. 그런데 이 수치들과 2025년 2분기 XPU ASP를 조정하여 계산해 보니, XPU의 ASP는 약 45% 상승했고 출하량은 2.4배 증가한 것으로 생각됩니다. 이러한 가격 인상 중 일부는 부품 비용 증가(GPU와 마찬가지로) 때문이며, 일부는 더 진보된 칩 공정에서 더 발전된 기능을 구현하기 위한 것입니다.

이 모든 것을 합치면, 평균 GPU/XPU 시스템의 비용은 약 14만 달러에 달하며, 올해 2분기에 약 84만 대가 출하되어 총액은 1,373억 5천만 달러입니다. 이는 가속 장비가 전체 출하량의 16.1%를 차지하지만, 매출 비중에서는 69.1%를 차지한다는 것을 의미합니다.

IDC에 따르면, 벡터 엔진 및 (드물게) 행렬 엔진을 CPU 내부에 탑재하지 않은 순수 범용 서버는 판매액이 542억 달러로, 일반적인 서버 교체 주기와 GenAI 추론 모델이 생성한 코드와 프로세스를 실행하는 AI 샌드박스 시스템의 증가 덕분에 55.8% 상승했습니다. 2분기에는 약 4백만 대가 넘는 이러한 서버가 판매되었으며, 이는 16.7% 증가한 수치입니다. 저희 계산과 추정치에 따르면 전체 시장은 516만 대 규모였습니다.

원래 설계 제조업체들이 이 폭발적인 시장에서 가장 먼저 돈을 벌고 있으며, 6월 분기에는 896억 6천만 달러를 벌어들여 그룹 기준으로 35.2% 증가했고, 전 세계 서버 판매량의 53.9%를 차지했습니다.

판매업체별 세부 내용은 다음과 같습니다:

Dell은 우리가 최근 분석했던 가장 최신 재무 결과를 보면 알 수 있듯이 GenAI(생성형 AI) 호황으로부터 명확하게 혜택을 보고 있습니다. Dell은 서버 부문에서 Hewlett Packard Enterprise를 앞질렀으며, Supermicro의 두 배 규모라는 입지를 유지했습니다. Lenovo는 서버 매출 면에서 매우 좋은 분기를 보내며 전년 대비 사업 규모가 두 배로 늘었습니다. 중국 서버 제조업체 Inspur의 자회사인 IEIT Systems는 오히려 축소되어 감소한 것이 이상합니다.

저는 이 모든 서버 제조업체의 수익이 매출액 대비 하락했다고 강력히 의심합니다. 왜냐하면 그들이 GenAI라는 곰고기를 너무 적은 지방과 함께 먹기 때문입니다. 차이점은 서버의 경우, 볼륨(물량)으로 만회할 수 있지만, 마른 곰고기는 배고픔을 채우기 위해 점점 더 많이 먹으면 죽게 된다는 것입니다.

하지만 Nvidia는 모든 사람에게 GenAI용 컴퓨팅 엔진과 네트워킹 장비를 판매함으로써 확실히 부자가 될 수 있습니다.