OCP 2026에서 저는 호텔에서 컨벤션 센터로 가는 우버(Uber)를 이용하며 Microsoft의 프로젝트 매니저와 함께 회사의 새로운 사내 AI 가속 플랫폼인 Maia 300에 대한 이야기를 나눌 수 있었습니다. 제가 이 내용을 다루겠다고 약속했기 때문에, 이제는 그럴 때가 왔습니다. 왜냐하면 이것은 정말 멋진 플랫폼이기 때문입니다. OCP Summit 2026은 이전보다 훨씬 커졌지만, 전통을 이어받아 Microsoft는 굉장한 부스를 마련했습니다.
OCP 2026에서 공개된 Microsoft Maia 300
OCP 2026 몇 주 전인 Hot Chips 2026에서 Microsoft는 Maia 200에 대한 심층 분석을 진행했습니다. 그리고 OCP를 위해 차세대 칩인 Maia 300을 선보였습니다. 이 칩은 메모리 용량 288GB의 HBM4 스택 8개와 18TB/s의 메모리 대역폭, 그리고 3.2TB/s의 확장형 양방향 대역폭을 갖추고 있습니다.
Microsoft Maia 300 Node Key Specs Large Microsoft Maia 300 Node Key Specs Large
Microsoft에 따르면, 이 Maia는 랙(rack)에 96개의 Maia를 장착할 수 있으며, 확장 영역에서는 약 12K개를 장착할 수 있습니다. 단순히 칩만 가져온 것이 아니라, 전체 4-가속기 노드(4-accelerator node)를 가져왔다는 점이 OCP를 정말 멋지게 만듭니다.
Microsoft OCP 2026 - Maia 300 Node-4 Microsoft OCP 2026 - Maia 300 Node-4
참고로 보여드리자면, 여기는 스톡 사진으로 찍은 해당 노드의 오버헤드 뷰입니다.
Microsoft Maia 300 Node Overhead Stock Large Microsoft Maia 300 Node Overhead Stock Large
분명히 알 수 있는 한 가지는 950W TDP 가속기가 액체 냉각 콜드 플레이트(liquid-cooled cold plate)로 덮여 있다는 것입니다.
Microsoft OCP 2026 - Maia 300 Node-7 Microsoft OCP 2026 - Maia 300 Node-7
보드의 MCIO x16 커넥터처럼 보이는 것도 볼 수 있지만, 더 흥미로운 것은 많은 케이블 연결입니다. 저희의 가장 좋은 추측은 이것들이 노드 내 확장을 돕는 UltraPass 커넥터라는 것입니다.
Microsoft OCP 2026 - Maia 300 Node-6 Microsoft OCP 2026 - Maia 300 Node-6
Microsoft는 상당히 깔끔한 PCIe 토폴로지(PCIe topology)와 전체 섀시를 가로지르는 광범위한 패브릭 연결성을 갖추고 있습니다.
Microsoft OCP 2026 - Maia 300 Node-9 Microsoft OCP 2026 - Maia 300 Node-9
우리가 알아차린 또 다른 점은 이것이 전면 액체 냉각 설계가 아니라는 것입니다. CPU, SSD, OCP NIC 3.0 장치 및 AI 가속기 주변의 많은 구성 요소들은 섀시 전체를 아우르는 거대한 팬 파티션(fan partition)에 의해 냉각됩니다.
Microsoft OCP 2026 - Maia 300 Node-3 Microsoft OCP 2026 - Maia 300 Node-3
후면에서는 버스바 전원(busbar power), 블라인드 메이트 액체 냉각(blind mate liquid cooling) 및 스케일업 네트워크에 연결됩니다. 여기서 매우 눈에 띄는 점이 하나 있습니다. NVIDIA가 Vera Rubin NVL72 노드와 인프라를 더 적은 케이블을 사용하도록 설계하는 반면, Microsoft는 모든 것이 케이블에 집중되어 있습니다. 각 가속기 자체가 여러 개의 케이블을 가진 자체 PCB 위에 놓여 있고, 이 시스템에는 많은 수의 PCB가 존재하기 때문입니다.
Microsoft OCP 2026 - Maia 300 Node-1 Microsoft OCP 2026 - Maia 300 Node-1
또한 이것이 1.5배 표준 OU 폭과 유사하지만 AMD Helios의 더블 와이드 폭은 아니라는 점도 알아차리셨을 것입니다. 서버 내부를 ASIC 설계부터 맞춤화하는 과정에서, 랙 자체를 맞춤화하는 것은 큰 문제가 아닐 수 있습니다.
마무리하며
Microsoft는 정말 멋진 제품들을 많이 만들고 있으며, 이것도 예외가 아닙니다. 여러분은 오래전에 Massive Microsoft Azure HBv4 AMD EPYC Genoa 히트싱크를 보셨을 수도 있는데, 커스텀 설계된 히트싱크만으로도 충분히 인상적입니다. 물론 이 구성 요소들은 4kW 이상의 TDP(열 설계 전력)를 가지며, 랙에는 이러한 트레이가 24개나 들어갑니다. 그래서 저는 STH 독자들이 많은 대역폭을 가진 새로운 AI 가속기를 보는 것을 좋아한다는 것을 알고 있습니다.
덧붙여 말씀드리자면, 288GB HBM4 및 950W 사양을 보고, 저의 일부는 만약 이러한 가속기들을 탑재한 DGX Station 같은 시스템(예: 이 Gigabyte 또는 이 MSI, Supermicro 리뷰는 다음 주에 올라올 예정입니다)이 존재할 방법이 있다면 어떨지 궁금해했습니다. 비록 이것들이 6자리 수의 타워형 시스템이지만, 제가 들은 바에 따르면 수요가 엄청납니다. 이는 아마도 Microsoft가 개발자 생태계를 구축하고 Maia를 판매하기로 결정해야 가능한 일일 것이지만, 특히 더 낮은 가격대로 책정된다면 흥미로울 것입니다.