Microsoft는 MI455X GPU와 Epyc Venice CPU를 기반으로 하는 AMD의 Helios 랙 스케일 (rack-scale) AI 가속기를 Azure에 대규모로 배포할 예정입니다. 이번 조치는 Nvidia를 넘어 Azure의 AI 실리콘 (silicon)을 다각화하는 움직임입니다.

Microsoft는 Azure에 AMD의 Helios 랙 스케일 AI 가속기를 대규모로 배포할 예정입니다. Radeon Instinct MI455X GPU와 Epyc Venice CPU로 구동되는 이 시스템은 Redmond(Microsoft 본사 소재지)에 AI 워크로드(workloads)를 위한 두 번째 주요 실리콘 공급업체를 제공합니다.

주요 사실

• Microsoft, Azure에 AMD Helios를 '대규모(at scale)'로 배포
• Radeon Instinct MI455X 및 Epyc Venice 기반
• AI를 위한 Azure의 첫 번째 주요 AMD 도입 약속
• Helios는 대규모 모델 워크로드(workloads)를 위한 랙 스케일 (rack-scale) 설계
• 가격, 가용성 및 벤치마크는 공개되지 않음

@tomshardware에 따르면, Microsoft는 Azure에 AMD의 Helios 랙 스케일 AI 가속기를 '대규모'로 배포할 예정입니다. 이 시스템은 AMD의 Radeon Instinct MI455X GPU와 Epyc Venice CPU로 구동되며, 이는 Microsoft가 퍼블릭 클라우드(public cloud)에서 대규모 AI 추론(inference) 및 학습(training)을 위해 AMD 실리콘을 도입하기로 약속한 첫 사례입니다.

이것이 보도자료가 시사하는 것보다 더 중요한 이유

Helios는 연산(compute)과 메모리(memory)를 밀접하게 결합한 랙 스케일 (rack-scale) 설계로, 분산 GPU 클러스터(clusters)에서 흔히 발생하는 데이터 이동 병목 현상을 줄여줍니다. Microsoft에게 이번 조치는 성능만큼이나 공급망 레버리지(leverage) 측면에서도 중요합니다. Nvidia의 H100 및 B200 GPU는 여전히 Azure AI의 지배적인 선택지이지만, Nvidia는 할당 제약과 긴 리드 타임(lead times) 문제에 직면해 왔습니다. AMD의 Helios를 대규모로 승인함으로써, Microsoft는 협상력을 확보하고 Nvidia의 공급이 타이트해질 경우를 대비한 대비책을 마련하게 됩니다.

Radeon Instinct MI455X는 AMD의 최신 데이터 센터(data-center) GPU이지만, 회사는 최대 TFLOPS나 메모리 대역폭(memory bandwidth)을 공개하지 않았습니다. Zen 5 아키텍처(architecture)를 기반으로 하는 Epyc Venice CPU는 호스트 연산(host compute)을 제공합니다. Helios는 이러한 구성 요소들을 고속 인터커넥트(interconnects)와 함께 단일 랙(rack)으로 통합하여, 대규모 언어 모델(large language model) 학습 및 실시간 추론(inference) 워크로드에 최적화되어 있습니다.

Microsoft는 Azure 배포에 대한 가격, 가용 날짜 또는 성능 벤치마크(performance benchmarks)를 공개하지 않았습니다 [@tomshardware에 따르면]. 또한 회사는 어떤 Azure 리전(region)이 Helios를 호스팅할지, 혹은 모든 고객에게 제공될지 아니면 초기에는 선택된 파트너들에게만 제한적으로 제공될지에 대한 명시를 거부했습니다.

경쟁 환경 (Competitive Landscape)

AMD는 Nvidia의 CUDA 생태계 및 InfiniBand 네트워킹에 맞서 유의미한 클라우드 시장 점유율을 확보하는 데 어려움을 겪어왔습니다. Helios는 Nvidia의 DGX SuperPOD 및 H100 기반 클러스터(clusters)와 경쟁하는 AMD의 가장 강력한 턴키(turnkey) 랙 스케일(rack-scale) 솔루션 시도를 나타냅니다. Microsoft의 베팅은 AMD의 오픈 소스 ROCm 소프트웨어 스택이 개발자들이 PyTorch나 TensorFlow 코드를 다시 작성할 필요 없이 프로덕션 AI 워크로드(production AI workloads)를 지원할 수 있을 만큼 충분히 성숙했다는 점에 있습니다.

Google Cloud와 AWS 또한 AMD GPU를 탐색해 왔습니다. Google은 A3 인스턴스(instances)를 통해 MI300X를 제공하고 있으며, AWS는 일반 컴퓨팅을 위한 Graviton 기반 인스턴스를 보유하고 있습니다. 하지만 두 회사 모두 Microsoft가 현재 시사하고 있는 수준의 랙 스케일 AMD 배포를 약속하지는 않았습니다.

이번 발표에는 Azure 배포에 대한 가격, 가용 날짜 또는 성능 벤치마크가 누락되어 있습니다. 이러한 세부 사항은 Helios가 진정한 대안이 될지, 아니면 비용에 민감한 워크로드를 위한 틈새 제품(niche offering)이 될지를 결정할 것입니다.

핵심 요약 (Key Takeaways)

• Microsoft는 MI455X GPU와 Epyc Venice CPU를 기반으로 하는 AMD의 Helios 랙 스케일 AI 가속기를 Azure에 대규모로 배포할 예정입니다.
• 이번 조치는 Azure의 AI 실리콘(silicon)을 Nvidia 너머로 다각화합니다.

관전 포인트 (What to watch)

Microsoft가 2026년 3분기에 Azure에서의 Helios에 대한 가격 및 성능 벤치마크를 발표하는지 주목하십시오. 핵심 지표는 Helios가 Llama 3 70B 및 GPT-4급 모델과 같은 표준 LLM 벤치마크에서 달러당 Nvidia H100 추론 처리량(inference throughput)의 최소 80%를 달성할 수 있는지 여부입니다. 만약 그렇다면, AWS와 Google Cloud가 AMD에 대한 약속을 가속화할 것으로 예상됩니다.

원문 게시: gentic.news