Helios is AMD’s first AI system to rival Nvidia Vera Rubin — we got an exclusive, first look

10년 만의 복귀를 거듭하며, 칩 거대 기업인 Advanced Micro Devices (AMD)는 Microsoft를 포함하여 점차 늘어나는 고객 명단에 'Helios'라고 불리는 자사의 첫 번째 인공지능 (AI)용 랙 스케일 (rack-scale) 시스템을 출하할 준비를 하고 있습니다.

이는 Nvidia의 폭발적인 인기를 끌고 있는 Grace Blackwell 및 Vera Rubin 시스템에 대항하는 첫 번째 경쟁 제품이며, 세계에서 가장 가치 있는 칩 제조사(Nvidia)에게 수년 만에 처음으로 진정한 경쟁을 제공하는 것을 목표로 합니다.

Microsoft는 월요일, 가능한 한 많은 컴퓨팅 자원 (compute)을 확보하기 위한 경쟁에 Meta, OpenAI, Oracle 등과 합류하여 자사의 데이터 센터에서 Helios 시스템을 사용할 것이라고 발표했습니다.

AMD는 올해 말 Microsoft를 포함한 고객들에게 제품 출하를 시작할 예정입니다.

재무 조건이나 컴퓨팅 용량 (compute capacity)에 대한 세부 사항은 공개되지 않았습니다.

Microsoft의 CEO Satya Nadella는 보도 자료를 통해 "우리는 차세대 AI 애플리케이션을 구축하고 실행하는 데 필요한 성능, 규모 및 선택권을 고객에게 제공하기 위해 AMD Helios를 통해 Azure 인프라 포트폴리오를 확장하고 있습니다"라고 밝혔습니다.

새로운 Helios 시스템은 Microsoft와 그 AI 고객들을 위한 프런티어 모델 추론 (frontier model inference)을 구동하고 Azure AI 서비스를 지원할 것입니다. 또한 Microsoft는 AMD의 최신 'Venice' 중앙 처리 장치 (CPU)로 구동되는 두 개의 새로운 컴퓨팅 인스턴스를 추가할 예정인데, 하나는 에이전틱 AI (agentic AI) 및 데이터 파이프라인용이며, 다른 하나는 반도체 설계용입니다.

이는 AMD 칩이 수년 동안 Microsoft의 Surface PC와 Xbox 게임 콘솔을 구동해 온 오랜 파트너십의 연장선입니다. 2023년에 Microsoft는 Nvidia의 AI 칩에 필적하는 AMD의 MI300X 그래픽 처리 장치 (GPU)를 최초로 채택하기도 했습니다. Microsoft는 또한 자사의 데이터 센터에 자체 Maia 칩을 배치하고 있습니다.

다른 기업들과 마찬가지로, Microsoft는 가능한 한 많은 컴퓨팅 자원 (Compute)을 필요로 합니다. 특히 자체 모델 개발을 확대하고 연구 개발 (R&D)에 더 많은 컴퓨팅 용량을 할당함에 따라 더욱 그러합니다. 지난 6월, Microsoft는 자체 개발한 7개의 모델을 발표했습니다. Microsoft의 AI 노력은 365 Copilot AI 어시스턴트부터 GitHub Copilot 코딩 에이전트에 이르기까지 지금까지 엇갈린 결과를 보여왔습니다. 이는 올해 들어 '매그니피센트 세븐 (Magnificent Seven)' 주식 중 현재까지 가장 실적이 저조한 종목입니다.

Microsoft는 AI 가속화를 위해 AMD로 눈을 돌리는 점점 늘어나는 대기업 중 하나입니다. AMD는 OpenAI, Cohere, 그리고 SpaceX의 일부인 Elon Musk의 SpaceXAI를 포함하여 상위 10개 AI 기업 중 8개가 자사의 Instinct GPU에서 워크로드 (Workload)를 실행하고 있다고 밝혔습니다.

지난 2월, Meta는 향후 최대 6기가와트 (GW) 규모의 AMD GPU를 사용할 것이라고 발표했으며, 그 시작으로 올해 말 Helios 랙 (Rack)에 1기가와트를 배치할 예정입니다. OpenAI와 Oracle 또한 올해 Helios를 도입하기로 주요 약속을 했으며, 인도의 최대 IT 기업인 Tata Consultancy Services 역시 이를 사용하기로 약속했습니다.

CNBC는 Helios 시스템이 개발 및 테스트되고 있는 텍사스 데이터 센터 연구실에서 Helios 시스템 내부를 세계 최초로 상세히 살펴보았습니다.

'토큰당 최저 비용'

네 마리의 말이 하늘을 가로질러 태양을 끌고 가는 고대 그리스 신의 이름을 딴 Helios는 AMD가 자체적으로 수행하는 네 가지 요소인 GPU, CPU, 네트워킹 (Networking) 및 소프트웨어 (Software)를 하나로 결합합니다.

데이터 센터 부문 책임자인 Forrest Norrod는 CNBC와의 인터뷰에서 AMD의 1세대 시스템에 대해 "우리는 최적의 총 소유 비용 (TCO, Total Cost of Ownership), 즉 모든 것을 포함한 토큰당 최저 비용을 제공하는 데 매우 집중하고 있습니다"라며, "그리고 고객들은 우리가 이를 달성하고 있다고 말해줍니다"라고 전했습니다.

지난 5월, AMD의 CEO Lisa Su는 CNBC의 Jim Cramer에게 Helios가 "추론 (Inference)에 대해 이야기할 때와 메모리 대역폭 (Memory Bandwidth) 및 메모리 성능 (Memory Capabilities)에 대해 이야기할 때" Nvidia의 랙 규모 (Rack-scale) 시스템에 비해 "상당한 이점"을 가지고 있다고 말했습니다.

AMD는 비용에 대해 언급하지 않았으나, Futurum Group은 Helios의 가격이 500만 달러에서 550만 달러 사이가 될 것으로 추정합니다. 이는 Nvidia의 2세대 랙 규모 (Rack-scale) 시스템인 Vera Rubin에 대해 Futurum이 추정한 350만 달러에서 400만 달러 사이의 가격과 비교됩니다.

최대 7,000파운드에 달하는 Helios는 Nvidia의 Vera Rubin보다 더 넓고 무겁습니다.

Futurum Group에 따르면, Nvidia는 데이터 센터 GPU 시장의 95% 이상을 점유하고 있습니다. AMD는 시장의 약 4.5%만을 보유하고 있지만, Helios가 이를 바꿀 수도 있습니다.

Futurum Group의 분석가이자 CEO인 Daniel Newman은 "AMD가 훌륭한 성과를 거두어 20%에서 25%까지 점유율을 확보할 수 있는 심각한(중요한) 사례가 있다고 생각합니다. 참고로, 이는 수천억 달러 규모의 매출입니다"라고 말했습니다.

2026년 1분기에 데이터 센터는 AMD 매출의 과반을 차지했으며, 전년 대비 57% 증가했습니다. AMD는 CNBC에 2027년부터 수백억 달러의 데이터 센터 AI 매출을 기록할 계획이며, 그 대부분은 Helios에서 발생할 것이라고 밝혔습니다.

데이터 센터 CPU 시장 점유율에서는 Intel이 명확한 선두를 유지하고 있지만, AMD는 꾸준히 입지를 넓혀왔습니다. 이러한 CPU 리더십은 2021년에 첫 서버 CPU를 출시하고 올해 칩에 대한 집중을 재개하기 위해 전략을 전환한 Nvidia와 AMD를 차별화합니다.

'매우 다른 AMD'

Norrod는 CNBC에 시스템의 핵심 칩을 보여주며 Helios를 "우리의 아기"라고 불렀습니다. 18개의 컴퓨팅 트레이 (Compute tray) 각각에는 단일 EPYC 중앙 처리 장치 (CPU)로 구동되는 4개의 Instinct GPU가 탑재되어 있습니다.

AMD가 데이터 센터 시장에서 잃어버렸던 10년의 리더십을 되찾는 데 도움을 준 것은 바로 이 EPYC 데이터 센터 CPU였습니다.

2003년, AMD는 시장의 거의 4분의 1을 빠르게 확보하는 데 도움을 준 혁신적인 데이터 센터 CPU를 보유했었습니다. 하지만 Su가 지휘봉을 잡을 무렵에는 일련의 지연과 실수로 인해 대규모 해고와 매출 감소로 이어지며 그 점유율이 사라졌습니다.

Norrod는 "지난 12년 동안 Lisa의 리더십 아래, AMD는 매우 다른 기업이 되었습니다"라고 말했습니다.

회사가 2017년 무대에서 첫 번째 EPYC 서버 CPU를 공개한 이후 상황은 반전되었습니다.

"우리가 했던 일 중 하나는 매우 이례적으로 세 세대에 걸친 로드맵 (Roadmap)을 상세하게 제시했다는 점입니다"라고 그는 말했습니다. "그리고 우리는 우리가 말한 것을 정확히 실행에 옮겼습니다."

AMD 로드맵의 일부에는 현재의 MI400 시리즈 GPU와 함께 Helios를 출시할 계획이 포함되어 있었습니다.

각 Helios 트레이 (Tray)에는 또한 2022년 Pensando를 인수할 때 AMD가 확보한 기술로 제작된 최대 12개의 네트워킹 칩 (Networking chips)이 탑재되어 있습니다.

이는 지난 몇 년 동안 Helios 개발을 가능하게 하는 데 기여한 여러 인수 사례 중 하나였습니다.

AMD의 현재까지 가장 큰 인수는 2022년 약 500억 달러에 달하는 프로그래머블 칩 (Programmable chip) 기업 Xilinx였습니다. AMD는 또한 2025년에 서버 제조사 ZT systems를 약 50억 달러에 인수했으며, Nvidia의 널리 채택된 CUDA 소프트웨어 생태계에 대한 오픈 소스 대안인 ROCm을 개발하는 데 도움이 된 일련의 소프트웨어 기업들도 인수했습니다.

Counterpoint Research의 분석가 Neil Shah는 AMD의 Helios 칩이 Nvidia의 GPU 및 CPU와 "대등한" 수준이지만, "비결 (Secret sauce)은 소프트웨어와 최적화 (Optimization)에 있다"고 말했습니다.

그는 "CUDA를 통해 Nvidia가 더 큰 생태계를 구축하고 있으며, AMD에 비해 상당히 앞서 있다고 생각합니다"라고 덧붙였습니다.

Helios를 통해 AMD는 초기 배포가 얼마나 잘 이루어지느냐에 따라 상당한 진전을 이룰 기회를 갖게 됩니다.

"질문은 이것이 될 것입니다: AMD가 기술적으로 우월하기 때문에 승리하는 것인가? 아니면 단순히 용량 (Capacity)에 대한 제약이 너무 커서, 그들이 제품을 만들 수만 있다면 누군가는 구매할 것이기 때문에 AMD가 승리하는 것인가?"라고 Newman은 말했습니다.

시청하기: Grace Blackwell보다 10배 더 효율적인 Nvidia의 AI 시스템, Vera Rubin 첫 공개

— CNBC의 Jordan Novet가 이 보고서에 기여했습니다.