ASRock Rack 4U16X-GNR2 NVIDIA HGX B300 8-GPU 서버 리뷰

ASRock Rack 4U16X-GNR2는 대형 NVIDIA HGX B300 시스템입니다. 두 개의 Intel Xeon 6 “Granite Rapids” 프로세서, 8개의 NVIDIA Blackwell Ultra GPU, 온보드 NVLink 상호 연결(interconnect) 등을 갖춘 이 시스템은 AI 학습(training) 및 추론(inference)을 위한 하이엔드 GPU 서버입니다. 8-GPU 토폴로지(topology)는 또한 많은 워크로드에서 잘 작동하는, 매우 잘 알려진 구성입니다. ASRock Rack은 이 서버의 두 가지 버전을 제공하며, 저희는 두 버전 모두를 확인했고 두 버전 모두 액체 냉각(liquid cooling)을 사용합니다. 이번 리뷰에서는 주로 전통적인 DLC 버전을 보여드릴 예정입니다.

ASRock Rack 4U16X GNR2 DLC With Patrick Large

ASRock Rack 4U16X-GNR2 외부 하드웨어 개요

서버 자체는 비교적 컴팩트한 4U 섀시입니다. 어떤 이들은 4U가 큰 시스템이라고 생각할 수도 있지만, 공랭식(air-cooled) 버전에 비하면 매우 밀도가 높습니다.

ASRock Rack 4U16X GNR2 DLC Front 1 Large

다음은 액체 냉각 노즐(liquid-cooling nozzles)의 빠른 모습입니다. 파란색은 들어오는 냉각 액체이며, 빨간색은 나가는 뜨거운 액체입니다.

ASRock Rack 4U16X GNR2 DLC Nozzles Large

시스템 전면에는 12개의 2.5″ U.2 NVMe 베이가 있습니다. 두 개는 CPU에 연결되어 있고, 나머지 열 개는 PCIe 스위치 복합체(PCIe switch complex)에 연결되어 있습니다.

ASRock Rack 4U16X GNR2 DLC SSD Tray Large

다음은 SSD를 위한 케이블형 백플레인(cabled backplane)의 모습입니다.

ASRock Rack 4U16X GNR2 DLC Front Storage Backplane Large

스토리지 아래에는 서버용 전면 I/O가 있습니다. 전면에서 4개의 USB 3 Type-A 포트와 함께 VGA 포트, 그리고 전원 버튼까지 확인할 수 있습니다.

ASRock Rack 4U16X GNR2 DLC Front USB And VGA Large

그다음은 저희가 가장 좋아하는 기능 중 하나입니다. ASRock은 시스템 전면에 관리 포트(management port)와 함께 두 개의 저속 1GbE 포트(Intel i350 기반)를 갖추고 있습니다. 만약 고객이 이 포트들을 섀시 후면에 배치하기를 원한다면, 전면 섀시와 연결되어 후면 포트에 연결성을 제공하는 내부 이더넷(Ethernet) 케이블이 있습니다.

ASRock Rack 4U16X GNR2 DLC Management And Platform NICs Large

만약 이 기능들을 조합하고 싶다면, 예를 들어 관리 포트는 전면에 두고 1GbE 포트는 후면에 두고 싶다면, 케이블을 삽입하거나 제거할 수 있습니다. 이는 별도의 SKU(Stock Keeping Unit)를 요구하지 않고도 하나의 서버 버전이 많은 데이터 센터 케이블링 요구 사항을 처리할 수 있음을 의미하는 간단한 솔루션입니다.

ASRock Rack 4U16X GNR2 DLC Front Management NIC To Rear Swap Large

해당 포트 옆에는 CPU 수냉 호스(liquid-cooling hose)의 입구와 출구가 있습니다. 이 포트들 아래에는 8개의 OSFP 800Gbps 케이지(cages)를 볼 수 있습니다. PCIe 카드를 추가하지 않더라도, 이 시스템은 이 전면 패널에서만 6.4Tbps 이상의 네트워크 대역폭(network bandwidth)을 제공합니다.