Gigabyte W775-V10-L01: 책상 위에 올리는 NVIDIA GB300 기반 시스템 사용 후기

Gigabyte W775-V10-L01은 여러분의 책상에서 구동할 수 있는 NVIDIA DGX Station GB300 기반 시스템입니다. 개념적으로는 간단하게 들릴 수 있지만, 실제로는 기대 이상으로 뛰어난 성능을 보여줍니다. 이 시스템은 액체 냉각 방식이며, 최대 전력 소비량이 1.6kW에 불과하여 대부분의 120V 회로에서도 구동할 수 있습니다. 우리는 Qwen3.6-35B-A3B Flash NVFP4와 같은 예상치 못한 곳에서 엄청난 성능을 끌어냈는데, 이 모델은 초당 26,000 토큰 이상 또는 하루 2.2B 토큰 이상의 속도로 구동되었습니다. 또한 ConnectX-8 400Gbps RDMA 네트워킹을 테스트하며 예상치 못한 점을 발견했습니다. 심지어 NVIDIA Grace 72코어 CPU와 NVIDIA “Blackwell Ultra” (B300) GPU 간의 고속 C2C 링크까지 테스트해 보았습니다.

우리가 다루게 된 첫 번째 NVIDIA DGX Station급 시스템은 Gigabyte의 W775-V10-L01이며, Gigabyte가 책상 위에 올릴 GB300 기반 시스템 구축에 상당히 진지하게 임했음을 보여줍니다. 개념적으로는 간단하게 들릴 수 있지만, 실제로는 기대 이상으로 뛰어난 성능을 보여줍니다. 이 시스템은 액체 냉각 방식이며, 최대 전력 소비량이 1.6kW에 불과하여 대부분의 120V 회로에서도 구동할 수 있습니다. 우리는 Qwen3.6-35B-A3B Flash NVFP4와 같은 예상치 못한 곳에서 엄청난 성능을 끌어냈는데, 이 모델은 초당 26,000 토큰 이상 또는 하루 2.2B 토큰 이상의 속도로 구동되었습니다. ConnectX-8 400Gbps RDMA 네트워킹도 테스트했으며 예상치 못한 점을 발견했습니다. NVIDIA Grace 72코어 CPU와 NVIDIA “Blackwell Ultra” (B300) GPU 간의 고속 C2C 링크까지 테스트해 보았습니다. 우리는 이 기사에 상당한 시간을 들여 작업했으며, 정말 놀라운 장비입니다.

Gigabyte W775-V10-L01 주요 사양 |
|
CPU | NVIDIA Grace 72-Core Neoverse V2 (72C/72T) |
GPU | NVIDIA Blackwell Ultra |
운영 체제 | Ubuntu with NVIDIA AI Developer Tools |
메모리 | CPU: 496GB LPDDR5X (396GB/s) GPU: 252GB HBM3E (7.1TB/s) |
저장 장치 | 2x M.2 2280 (PCIe Gen6 x4) 2x M.2 2280 (PCIe Gen5 x4) |
비디오 카드 | 선택 사항: NVIDIA RTX PRO Blackwell 2000/4000/6000 |
PSU | 1600W (80 PLUS Platinum) |
폼 팩터 | 타워 워크스테이션 245 x 500 x 531mm |
네트워킹 | 2x 400Gbps (QSFP112, ConnectX-8) 10Gb 이더넷 (RJ45, AQC-113C) 1Gb 이더넷 (BMC) |
포트 | 상단: 1x USB-C 10Gbps, 2x USB-A 5Gbps, 1x 3.5mm 라인 아웃, 1x 3.5mm 마이크 입력 후면: 4x USB-A 10Gbps, 1x USB Micro-B UART (BMC), 2x 400GbE (QSFP112), 1x 10GbE LAN (RJ45, AQC-113C), 1x 1GbE LAN (RJ45, BMC), 3x 3.5mm 오디오, 1x Mini DisplayPort (BMC) |

W775는 사용자에게 많은 하드웨어를 제공하며, 이것이 DGX Station 시스템을 매력적으로 만드는 핵심입니다. 단순히 Grace CPU나 서버급 HBM3E가 장착된 Blackwell Ultra GPU만 있는 것이 아니며, 심지어 고성능 듀얼 400Gbps ConnectX-8 네트워크 인터페이스 카드만 있는 것도 아닙니다. 대신, 이것은 이 모든 하드웨어와 그 이상의 조합이며, GB300 서버의 모든 핵심 구성 요소를 데스크톱 워크스테이션으로 구현한 것입니다. 심지어 이를 타워에 담긴 GB300 서버라고 부르는 것조차 아이디어를 다소 과소평가하는 것이지만, 개념을 전달하기에는 충분합니다. 이것은 GB10 기반의 Spark 박스 같은 Grace Blackwell 생태계의 일부 조각이 아니라, 완전하고 제약 없는 Grace Blackwell 경험 그 자체입니다.

Gigabyte W775-V10-L01 외부 하드웨어 개요

대용량 칩과 광범위한 액체 냉각 시스템의 조합 덕분에 Gigabyte의 W775-V10-L01은 높이 50cm, 깊이 53cm 크기의 전형적인 PC 타워 케이스에 담겨 있습니다. 하지만 크기보다 더 중요한 것은, 이 시스템을 들어 올리려고 할 때 느껴지는 무게감입니다. 액체 냉각 시스템까지 포함하여 전체 무게가 무려 29kg(약 64 lbs)에 달합니다. Gigabyte는 너무 무겁기 때문에 두 사람이 함께 옮기는 것(팀 리프팅)을 강력히 권장하며, 심지어 플라스틱 전면 패널로 시스템을 들어 올리는 것을 방지하기 위해 각 사람이 손을 어디에 위치시켜야 하는지까지 구체적으로 명시하고 있습니다.

그럼에도 불구하고 W775는 10만 달러짜리 워크스테이션이라는 점을 감안하면 비교적 평범한 시스템입니다. 케이스 자체는 내장된 하드웨어에 대한 최소한의 커스터마이징만을 거친 전형적인 PC 섀시입니다. 따라서 DGX Spark 시스템처럼 과도하게 커스터마이징된 디자인은 아니며, 표준 PC 케이스를 사용할 수 있다는 점은 OEM들이 DGX Station 시스템을 커스터마이즈할 때 부여받는 몇 안 되는 자유로운 측면 중 하나입니다. 그럼에도 불구하고 Gigabyte가 W775에서는 독특한 디자인을 사용하고 있는 것 같다는 인상을 받았습니다. 왜냐하면 이와 일치하는 케이스를 가진 다른 Gigabyte 시스템은 찾아볼 수 없었기 때문입니다.

GIGABYTE W775-V10-L01-Front Angled 1

놀랍게도, W775 케이스의 전면부는 냉각 기능을 수행하기보다는 단순히 장식적인 역할을 합니다. Gigabyte는 이 시스템의 전면부를 공기 흡입구로 사용하지 않았으며(대부분의 풀 타워 시스템에서 볼 수 있듯이), 대신 케이스의 다른 모든 면을 흡입구나 배출구로 광범위하게 활용하고 있습니다. 이는 소음 측면에서도 도움이 되는데, 사용자 쪽으로 직접 마주하는 팬이 없기 때문입니다.

GIGABYTE W775-V10-L01-Side 2

케이스 왼쪽 측면에는 몇 개의 팬을 덮은 통풍구가 있어 흡입구 역할을 합니다.

GIGABYTE W775-V10-L01-Side 1

한편, 케이스 오른쪽 측면에서는 시스템의 광범위한 액체 냉각 시스템의 일부로 공기를 밀어내는 세 개의 팬이 장착된 라디에이터 뒷면을 볼 수 있습니다.

이는 또한 케이스 전면에 I/O 포트나 버튼이 없다는 것을 의미합니다. 시스템의 크기, 무게, 그리고 방출하는 열량을 고려하여 Gigabyte는 W775가 바닥에 놓는 컴퓨터(floor computer)가 되도록 의도했기 때문에, 포트와 제어 장치들이 그에 맞게 구성되어 케이스 상단 측면에 배치되었습니다.

GIGABYTE W775-V10-L01-Top IO 1

W775의 모든 I/O 기능 중에서도 상단 패널 I/O는 다소 간소합니다. 가장 먼 끝 부분에는 5Gbps USB-A 포트 두 개와 10Gbps USB-C 포트 하나가 있습니다. 이 시스템에서는 USB4 속도 포트를 찾을 수 없습니다. 10Gbps보다 빠른 전송은 통합된 ConnectX-8 SuperNIC를 통해 시스템의 대용량 처리량 400Gb QSFP112s로 연결해야 합니다. 실제로 10GbE NIC 또한 ConnectX-8를 통과합니다.

저희가 지나치게 세부적으로 따지는 것이지만, 이 시스템 가격을 생각하면 Gigabyte가 USB 포트를 식별하기 위해 공식적이고 권장되는 어떠한 (USB-IF) 로고도 사용하지 않은 점이 놀랍습니다. 특히 USB-A 포트에 파란색 플라스틱을 사용하지 않기로 결정했음에도 불구하고, 이것들이 USB 3.x 포트임을 나타내는 것이 전혀 없습니다.

GIGABYTE W775-V10-L01-Audio + Mic Jack 1

어쨌든 세 개의 USB 포트와 함께 시스템 상단에는 오디오용 전용 헤드폰 출력 및 마이크 입력 단자도 포함되어 있어 무거운 시스템 뒷면까지 갈 필요가 없습니다.

GIGABYTE W775-V10-L01-Rear Angled 2

시스템 후면에 대해 말하자면, 여기를 살펴보겠습니다. 이것은 (대부분) 표준 PC 섀시이기 때문에, 익숙한 팬, 후면 I/O, 확장 슬롯, 그리고 ATX 폼 팩터의 PSU 레이아웃이 보입니다. 이 섀시는 후면 배기용으로 120mm 또는 140mm 팬을 수용할 수 있으며, Gigabyte는 120mm Sunon 팬을 선택했습니다.

GIGABYTE-W775-V10-L01-Rear-IO-2

후면 I/O의 경우, 시스템은 네트워킹이 지배적입니다. BMC용 1GbE 포트를 포함하여 W775에는 총 네 개의 이더넷 포트가 있으며, 이는 세 개의 다른 컨트롤러로 연결됩니다.

GIGABYTE-W775-V10-L01-QSFP-Ports-3

이 포트들 중 가장 눈에 띄는 것은 NVIDIA의 강력한 ConnectX-8 “SuperNIC”가 공급하는 두 개의 QSFP112 포트입니다. 각 포트는 400Gbps 네트워킹을 제공하며, DGX Spark의 QSFP 포트와 마찬가지로 이 포트들은 시스템이 고속 스토리지 및/또는 다른 DGX Station 기반 시스템과 네트워크를 연결하는 주요 수단입니다. 이러한 포트를 구동하는 ConnectX-8 SuperNIC는 단순한 네트워킹을 넘어 많은 부하 작업을 수행하며, 그 결과 이 QSFP 포트들의 기능과 한계가 다소 복잡합니다. 시스템 토폴로지에 대해 이야기할 때 더 자세히 알아보겠습니다.

Gigabyte W775 NVIDIA ConnectX-8 SuperNIC Ports with two 400G DR4 Optics Large Gigabyte W775 NVIDIA ConnectX-8 SuperNIC Ports with two 400G DR4 Optics Large

저희는 QSFP112 DAC와 광학 모듈을 모두 사용해 보았습니다. 한 가지 지적하고 싶은 점은 광학 케이지 주변의 공기 흐름이 많지 않다는 것이므로, 약 10W급 NVIDIA MMS1X00-N5400 QSFP112 광학 모듈이 저희에게는 잘 작동했습니다. 이들은 비용이 조금 더 들지만, 저희가 데이터 센터 투어를 할 때마다 데이터 센터 기술자들이 뜨거운 통로(hot aisles)에 설치된 경우 NVIDIA의 광학 모듈이 일부 저가 브랜드보다 성능이 좋다고 말하는 경향이 있습니다.

GIGABYTE-W775-V10-L01-Rear-IO-RJ45-USB-1

더 일반적인 네트워킹 사용 사례를 위해, 이 시스템에는 RJ45 이더넷 잭 한 쌍도 있습니다. ‘M’으로 표시된 왼쪽 포트는 BMC에 연결되어 시스템 관리를 위한 것입니다. 관리 기능은 OpenBMC와 HTML5 iKVM 등으로 처리되지만, 이번 리뷰가 방대하기 때문에 그 부분까지 깊이 다루지는 않겠습니다. 오른쪽의 RJ45 잭은 Marvell의 검증된 AQC113C 컨트롤러가 구동하는 10Gb 이더넷 포트입니다. 이 시스템의 토폴로지가 매우 흥미롭기 때문에, AQC113C는 CPU에 직접 연결된 것이 아니라 ConnectX-8 SuperNIC에 연결되어 있습니다.

아래는 W775의 나머지 USB 포트들입니다. 이 네 개의 포트는 모두 10Gbps로 작동하며, 시스템 상단에 있는 USB-C 포트와 속도가 일치합니다. 상단의 USB-A 포트와 달리, Gigabyte(혹은 NVIDIA)는 이곳이 고속 포트임을 나타내기 위해 파란색 플라스틱을 사용했습니다. 그렇다고 하더라도, Gigabyte의 블록 다이어그램에 따르면 이 포트들은 허브를 통해 라우팅되므로, 각 포트에서 동시에 10Gbps가 나올 것이라고 기대해서는 안 됩니다.

GIGABYTE-W775-V10-L01-Audio-Jack-4

그 오른쪽에는 Realtek ALC4080 오디오 코덱으로 구동되는 세 개의 오디오 잭이 있습니다.

GIGABYTE-W775-V10-L01-Rear-IO-BMC-Display

후면 I/O 패널 끝부분에는 BMC에 연결된 두 개의 포트가 더 있습니다. 왼쪽은 마이크로-USB 폼팩터의 시리얼 UART입니다. 오른쪽은 시스템 관리 및 구성을 위한 BMC의 Mini DisplayPort 출력입니다. DGX Station 시스템에는 자체적으로 통합된 디스플레이 GPU가 없습니다(Blackwell Ultra는 컴퓨팅 가속기 역할에 가깝습니다). 따라서 BMC가 기본 그래픽 출력 유일한 수단입니다. 모든 기능을 갖춘 그래픽 솔루션이 필요하다면, DGX Station 시스템은 NVIDIA RTX PRO Blackwell 비디오 카드와 페어링할 수 있습니다.

간략히 말하자면, 여기에서 플러그 한 쌍도 찾을 수 있습니다. W775는 무선 라디오가 설치되어 제공되지는 않지만, 섀시와 마더보드는 원한다면 이를 완전히 지원할 수 있으며, 이 경우 이 플러그들은 안테나 리드를 위해 사용됩니다.

GIGABYTE W775-V10-L01-Power Conenctor + Power Switch 2

마지막으로, 전원 공급 장치가 위치한 시스템 하단을 살펴보겠습니다. 각 DGX Station 시스템 내부의 GB300 가속기 덕분에, DGX Station 시스템은 전력 소모가 매우 크며, NVIDIA는 1600와트 전원 공급 장치로 북미 단일 전원 콘센트 한계에 근접해 있습니다. 80 PLUS Platinum 등급 PSU는 해당 전류를 안전하게 처리하기 위해 고용량 C19 전원 케이블을 필요로 하며, 구동하려면 20암페어 회로가 필요합니다. 실제로 이 시스템은 자체 전용 20A 회로가 사실상 요구됩니다.

덧붙여 말하자면, 겨우 볼 수 있지만 PSU에는 또 다른 팬이 있어 시스템 하단에서 찬 공기를 빨아들여 PSU를 냉각시키고 있습니다. 결과적으로 시스템의 전면을 제외한 모든 측면은 일종의 공기 흡입구 또는 배출구가 됩니다.