San Jose에서 열린 OCP Global Summit 2026에 참석하여 Aivres 부스를 방문했습니다. 이곳에는 Vera Rubin NVL72 랙부터 PCIe GPU 서버까지 다양한 NVIDIA 제품군이 전시되어 있었으며, 그 사이에 HGX Rubin NVL8 트레이와 Vera CPU 하드웨어, 그리고 HGX B300 서버가 배치되어 있었습니다.
저희는 이미 NVIDIA GTC 2026 부스에서 Aivres의 Vera Rubin 랙을 본 적이 있어, 이번에는 주변 하드웨어를 더 많이 볼 수 있는 기회였습니다.
Aivres KRS8000V4 NVIDIA Vera Rubin NVL72 랙
부스의 가장 큰 랙은 Aivres KRS8000V4로, 회사의 NVIDIA Vera Rubin NVL72 액체 냉각식 AI 랙입니다. 이번 전시회에서는 더미 블랭크와 실제 노드가 혼합되어 있었습니다. 이러한 랙들은 운송이 까다롭지만, 저희는 이전에 여러 번 본 적이 있습니다.
Aivres OCP Summit 2026 NVIDIA Vera Rubin NVL72 Rack 1 Aivres OCP Summit-NVIDIA Vera Rubin NVL72 Liquid-Cooled AI Rack 2
Aivres에 따르면, 위에서 볼 수 있듯이 1U 컴퓨트 트레이 18개와 1U NVLink 스위치 트레이 9개가 구성되어 있으며, 스위치 트레이는 중앙에, 전원 공급 장치는 상단과 하단에 배치되어 있습니다. 이는 6세대 NVLink를 통해 72개의 Rubin GPU와 36개의 Vera CPU를 구현합니다. 이를 통해 20TB 이상의 HBM을 갖춘 거대한 GPU 도메인이 NVLink 위에서 생성됩니다. Aivres는 이 시스템이 100% 액체 냉각식이며, 냉각 효율성을 높이기 위해 45°C에서 작동할 수 있다고 밝혔습니다. 일반적으로 온수 욕조의 온도가 38~39°C인 점을 감안하면, 랙 내부 유체의 온도에 대한 아이디어를 얻을 수 있습니다.
Aivres OCP Summit 2026 NVIDIA Vera Rubin NVL72 Rack 2 Aivres OCP Summit-NVIDIA Vera Rubin NVL72 Liquid-Cooled AI Rack 1
컴퓨트 트레이 18개와 스위치 트레이, 관리 스위치, 통합 NVLink 백본, 전원 및 액체 냉각 시스템까지 갖춘 이 랙들은 매우 복잡하게 구성되어 있습니다.
Aivres KL2288 2U 액체 냉각식 HGX Rubin NVL8 컴퓨트 트레이
Aivres KL2288은 NVIDIA HGX Rubin NVL8을 위한 2U 액체 냉각식 컴퓨트 트레이로, 8개의 Rubin GPU와 듀얼 AMD EPYC 9006 “Venice” 프로세서를 결합했습니다. 이 전시물은 8개 GPU를 갖춘 HGX 플랫폼이 팬리스(fanless) 디자인으로 x86 CPU에 호스팅될 수 있는 방식을 보여줍니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 1 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 1
Aivres는 KL2288이 NVFP4 추론에서 최대 400 PFLOPS, NVFP4 학습에서 280 PFLOPS를 지원한다고 명시했습니다. 부스 안내판에는 또한 총 HBM 대역폭 176TB/s와 2.3TB의 HBM4 메모리가 탑재되어 있다고 적혀 있습니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 2 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 2
전면에는 UART 포트, USB 포트 2개, RJ45 포트 2개, 그리고 8개의 E1.S 드라이브 베이가 일렬로 배치되어 있습니다. 또한 NVIDIA BlueField DPU를 위한 공간도 마련되어 있습니다.
컴퓨트 트레이(compute tray)를 빠르게 살펴보면 액체 냉각이 대거 적용된 것을 확인할 수 있습니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 3 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 6
시스템 후면에는 OCP 랙 퀵 디스커넥트와 전원용 버스바가 사용되었습니다. 또한, 액체 냉각 방식이기 때문에 팬을 위한 배기 공간이 후면에 없다는 점도 확인할 수 있습니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 6 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 14
Aivres는 이를 모듈형(modular), 팬리스(fanless), 완전 액체 냉각 설계라고 부릅니다. 내부에는 두 개의 CPU가 구리 콜드 플레이트(copper cold plates)를 가지고 있으며, 그 양옆으로는 역시 액체 냉각되는 DDR5 DIMM 뱅크들이 배치되어 있습니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 4 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 12
빨간색(따뜻한) 및 파란색(차가운) 피팅이 있는 분배 블록(Distribution blocks)을 통해 트레이로 냉각수가 순환됩니다.
Aivres OCP Summit 2026 HGX Rubin NVL8 Compute Tray 5 Aivres OCP Summit-2U Liquid-Cooling NVIDIA HGX Rubin NVL8 AI Compute Tray 17
이는 곧 출시될 시스템에 대한 흥미로운 모습이었습니다.