ASRock Rack 4U16X-GNR2는 대형 NVIDIA HGX B300 시스템입니다. 두 개의 Intel Xeon 6 “Granite Rapids” 프로세서, 8개의 NVIDIA Blackwell Ultra GPU, 온보드 NVLink 상호 연결(interconnect) 등을 갖춘 이 시스템은 AI 학습(training) 및 추론(inference)을 위한 하이엔드 GPU 서버입니다. 8-GPU 토폴로지(topology)는 또한 많은 워크로드에서 잘 작동하는, 매우 잘 알려진 구성입니다. ASRock Rack은 이 서버의 두 가지 버전을 제공하며, 저희는 두 버전 모두를 확인했고 두 버전 모두 액체 냉각(liquid cooling)을 사용합니다. 이번 리뷰에서는 주로 전통적인 DLC 버전을 보여드릴 예정입니다.
ASRock Rack 4U16X GNR2 DLC With Patrick Large
ASRock Rack 4U16X-GNR2 외부 하드웨어 개요
서버 자체는 비교적 컴팩트한 4U 섀시입니다. 어떤 이들은 4U가 큰 시스템이라고 생각할 수도 있지만, 공랭식(air-cooled) 버전에 비하면 매우 밀도가 높습니다.
ASRock Rack 4U16X GNR2 DLC Front 1 Large
다음은 액체 냉각 노즐(liquid-cooling nozzles)의 빠른 모습입니다. 파란색은 들어오는 냉각 액체이며, 빨간색은 나가는 뜨거운 액체입니다.
ASRock Rack 4U16X GNR2 DLC Nozzles Large
시스템 전면에는 12개의 2.5″ U.2 NVMe 베이가 있습니다. 두 개는 CPU에 연결되어 있고, 나머지 열 개는 PCIe 스위치 복합체(PCIe switch complex)에 연결되어 있습니다.
ASRock Rack 4U16X GNR2 DLC SSD Tray Large
다음은 SSD를 위한 케이블형 백플레인(cabled backplane)의 모습입니다.
ASRock Rack 4U16X GNR2 DLC Front Storage Backplane Large
스토리지 아래에는 서버용 전면 I/O가 있습니다. 전면에서 4개의 USB 3 Type-A 포트와 함께 VGA 포트, 그리고 전원 버튼까지 확인할 수 있습니다.
ASRock Rack 4U16X GNR2 DLC Front USB And VGA Large
그다음은 저희가 가장 좋아하는 기능 중 하나입니다. ASRock은 시스템 전면에 관리 포트(management port)와 함께 두 개의 저속 1GbE 포트(Intel i350 기반)를 갖추고 있습니다. 만약 고객이 이 포트들을 섀시 후면에 배치하기를 원한다면, 전면 섀시와 연결되어 후면 포트에 연결성을 제공하는 내부 이더넷(Ethernet) 케이블이 있습니다.
ASRock Rack 4U16X GNR2 DLC Management And Platform NICs Large
만약 이 기능들을 조합하고 싶다면, 예를 들어 관리 포트는 전면에 두고 1GbE 포트는 후면에 두고 싶다면, 케이블을 삽입하거나 제거할 수 있습니다. 이는 별도의 SKU(Stock Keeping Unit)를 요구하지 않고도 하나의 서버 버전이 많은 데이터 센터 케이블링 요구 사항을 처리할 수 있음을 의미하는 간단한 솔루션입니다.
ASRock Rack 4U16X GNR2 DLC Front Management NIC To Rear Swap Large
해당 포트 옆에는 CPU 수냉 호스(liquid-cooling hose)의 입구와 출구가 있습니다. 이 포트들 아래에는 8개의 OSFP 800Gbps 케이지(cages)를 볼 수 있습니다. PCIe 카드를 추가하지 않더라도, 이 시스템은 이 전면 패널에서만 6.4Tbps 이상의 네트워크 대역폭(network bandwidth)을 제공합니다.
ASRock Rack 4U16X GNR2 DLC Front 800G NIC Ports Large
후면으로 이동하면 내부 네트워크 케이블이 연결되는 곳을 볼 수 있는데, 왼쪽 후면에는 두 개의 1GbE 포트가 있고, 오른쪽 후면에는 관리 포트(management port)와 추가적인 USB 포트들이 있습니다.
ASRock Rack 4U16X GNR2 DLC Rear Large
시스템 후면에는 중복성(redundancy)을 제공하기 위해 10개의 3kW 80Plus Titanium PSU(전원 공급 장치)가 장착되어 있습니다.
ASRock Rack 4U16X GNR2 DLC Power Supplies Out Large
양쪽 측면에는 핫 스왑(hot swapped)이 가능하도록 캐리어(carriers)에 장착된 한 쌍의 대형 팬이 있습니다.
ASRock Rack 4U16X GNR2 DLC Fans 2 Large
섀시(chassis)의 하단 중앙 부분에는 세 개의 더 작은 팬도 있습니다.
ASRock Rack 4U16X GNR2 DLC Fan Modules Out Large
여기 시스템에서 분리된 두 개의 팬을 빠르게 살펴보겠습니다.
ASRock Rack 4U16X GNR2 DLC Fans 1 Large
팬을 제거하면 시스템을 관통하는 공기 흐름 경로(airflow paths)를 볼 수 있습니다.
ASRock Rack 4U16X GNR2 DLC Rear Empty Large
다음으로, CPU와 메모리(memory)가 위치한 시스템의 상단 부분으로 넘어가 보겠습니다.