AMD, 최대 32,768개의 Zen 6 'Venice' 코어를 탑재한 에이전트형 AI 서버용 Helion 레퍼런스 디자인 공개

AMD가 데이터 센터 생태계에 새로운 레퍼런스 랙 규모의 디자인인 Helion을 선보입니다. 이는 작년 OCP Global Summit에서 AMD가 공개했던 Helios 랙을 보완하는 표준화된 21인치 랙 레퍼런스 디자인입니다. 올해는 Helion을 통해 AMD가 EPYC 'Venice' 9996의 고밀도 256코어 디자인을 사용하여 CPU 전용 배포에서 최대 32,768개의 Zen 6 코어를 수용할 수 있다고 밝혔습니다.

Go deeper with TH Premium: CPU

A hand holding the Ryzen 7 9850X3D.

(Image credit: Tom's Hardware)

랙 디자인은 Open Compute Project의 ORv4 사양을 기반으로 표준화되었으며, 이는 일반 IT 랙보다 약간 더 넓고 높습니다. Helion은 폭 21mm, 높이 48mm인 44개의 OpenU 트레이를 지원하도록 설계되었는데, 이는 표준 EA1-310 트레이보다 약간 더 큰 크기입니다. AMD에 따르면 이 레퍼런스 디자인은 공랭식(air-cooled)과 직접 액체 냉각식(direct liquid-cooled) 배포 모두를 지원합니다.

이 디자인은 OCP의 DC-MHS (Data Center Modular Hardware System) 표준을 준수하기도 합니다. OCP에 따르면 MHS는 “데이터 센터, 엣지 및 엔터프라이즈 인프라의 핵심 요소 간 상호 운용성(interoperability)”을 가져오도록 설계되었습니다.

AMD가 아래 발표 자료에서 보여주는 디자인 렌더링이 있지만, 실제로 판매할 랙은 아닙니다. 이것은 AMD가 OCP에 기여하는 레퍼런스 디자인이며, 실제 시장에는 OEM과 ODM이 이 디자인을 출시하게 됩니다. AMD는 기자 대상 사전 브리핑에서 Helion을 지원하는 파트너를 공유하지 않았습니다. 회사는 CEO Lisa Su가 오늘 나중에 열리는 OCP Global Summit의 메인 기조연설(keynote)에서 파트너를 발표할 것이라고 밝혔습니다.

AMD는 또한 배포 파트너도 공개하지 않았지만, Helios 고객들 역시 Helion 랙을 배포할 것임을 시사했습니다.

AI 트레이닝 및 추론에 맞춰진 Helios와 달리, Helion은 주로 CPU에 초점을 맞춘 보다 유연한 랙 솔루션입니다. CPU 전용 배포의 경우, 이 디자인은 최대 128개의 EPYC 9996 CPU를 수용할 수 있어 랙당 인상적인 32,768 코어 수를 구현합니다. 이 구성은 추론 시스템에 연결되는 에이전트형 AI 샌드박스 시스템과 유사하게 보일 것입니다.

개인 AI 에이전트를 위한 이 모델은 현재 Meta의 Muse와 OpenAI Dots에서 사용되고 있습니다. Meta’s Muse와 OpenAI Dots 모두에서 그렇습니다. 각 사용자는 호스트 시스템의 컴퓨팅 자원을 할당받는 샌드박스를 가지며, 이는 추론 서버의 백본(backbone) 역할을 합니다. 소프트웨어 빌드와 같이 일부 워크로드는 해당 CPU 전용 서버에서 처리되지만, 고성능 AI 추론은 다른 곳에서 이루어집니다.

AMD가 Helion을 통해 목표하는 모델이 바로 이것으로 보입니다. 하이퍼스케일러들이 에이전트형 AI를 기반으로 CPU 용량을 확장하고 있기 때문입니다. 하지만 이 디자인은 유연하여 최대 16개의 MI350P GPU와 102 Tbps의 네트워킹을 지원하지만, 그 대가로 CPU 용량은 줄어듭니다. AMD에 따르면 이러한 하이브리드 구성은 기업을 대상으로 하며, 데이터 관리, 네트워킹 및 AI 사용을 위한 올인원(all-in-one) 랙을 제공합니다.

AMD는 Helion 랙이 2027년 상반기부터 이용 가능할 것이며, 이는 올해 후반에 본격화될 것으로 예상되는 Zen 6 배포 물결을 타고 할 것이라고 밝혔습니다.