올해 Computex 2026 무역 박람회의 가장 큰 주제가 모든 AI 관련 제품이었기에, 우리는 크고 작은 다양한 시스템들을 접할 수 있었습니다. 데스크톱, 워크스테이션, 그리고 셀 수 없이 많은 랙마운트 서버들 사이에서 ASRock Rack의 매우 비전통적인 서버 하나가 가장 흥미로웠습니다. 이 서버 회사는 NVIDIA의 Thor SoC를 기반으로 하는 새로운 2U 단형(short-depth) 서버를 전시했습니다.

ASRock Rack 2UXGI-THOR

2UXGI-THOR라는 이름은 적은 글자 수에 많은 정보를 담고 있습니다. 이 박스는 기본적으로 NVIDIA의 모듈식 MGX 서버 사양을 충족하도록 설계된 2U 서버입니다. MGX는 컴퓨팅 서버(및 랙)가 다양한 프로세서를 혼합하여 공급업체나 고객의 특정 요구 사항을 충족하는 맞춤형 서버를 구성할 수 있도록 합니다. 일반적으로 이러한 MGX 서버에는 데이터센터급 x86 또는 NVIDIA Grace CPU가 장착되지만, ASRock Rack은 이 폼팩터와 모듈성을 극대화하여 IGX Thor 플랫폼을 중심으로 산업용 AI 엣지 서버를 구축했습니다.

엣지 서버가 특히 산업용 서버인 이유는 무엇일까요? 이 경우 가장 큰 요인은 장치 중앙에 위치한 SoC입니다. IGX Thor는 NVIDIA의 최신 세대 자동차/산업용 SoC의 산업 버전으로, 14개의 Arm Neoverse-V3AE CPU 코어와 NVIDIA Blackwell 통합 GPU를 결합했습니다. 그리고 그 주변에는 프로그래밍 가능한 비전 가속기(programmable vision accelerator), 센서 브리징(sensor bridging), 카메라 오버 이더넷 지원(camera-over-Ethernet support)을 포함하여 자동차/산업 분야를 위한 다양한 특수 하드웨어가 갖춰져 있습니다. 요약하자면, IGX Thor는 센서 데이터를 실시간으로 수집하고 처리하는 데 탁월하도록 설계되었습니다.

ASRock Rack은 차례로 Thor 플랫폼을 채택하여 산업 및 의료 시장을 겨냥한 AI 엣지 서버를 개발했습니다. 이 두 분야는 시스템이 많은 양의 센서 데이터를 처리할 것으로 예상되는 곳입니다. 구체적으로 ASRock Rack은 IGX Thor 모듈과 128GB의 LPDDR5X 메모리를 결합한 완전한 microATX 마더보드인 NVIDIA의 IGX T7000 플랫폼을 중심으로 서버를 구축하고, 여기에 NVIDIA ConnectX-7 NIC를 추가했습니다. ASRock Rack은 이를 서버 섀시에 넣고 적절한 하드웨어와 페어링하여 작은 서버 랙에 배치하기에 적합하게 만들었습니다.

Thor SoC의 처리 능력 외에도, ASRock Rack은 T7000 마더보드의 PCIe 기능을 활용하여 NVIDIA Blackwell PRO 비디오 카드를 추가하고 있습니다. 이 서버는 단일 FHFL PCIe 카드 슬롯을 수용할 수 있으며, ASRock Rack은 여기에 PRO 5000 또는 PRO 6000 비디오 카드를 장착합니다. 이 비디오 카드는 Thor SoC가 자체적으로 수행할 수 있는 것보다 훨씬 많은 AI 처리 능력을 제공하는 것을 목표로 합니다.

결과적으로 탄생한 서버는 크기에 비해 상당히 많은 I/O 연결성을 갖추고 있습니다. Thor의 통합 NIC에서 제공하는 1GbE RJ45 잭 외에도, 시스템에는 T7000 마더보드에 내장된 ConnectX-7 NIC가 구동하는 2개의 200GbE QSFP28 포트가 함께 제공됩니다. 여기에 4개의 USB-A 포트와 단일 USB-C 포트를 포함한 총 5개의 10Gbps USB 포트가 추가되었습니다.

한편, 시스템의 폼 팩터 외에도 서버로서의 역량은 몇 가지 다른 방식으로 더욱 강력하게 드러납니다. 우선, 이 서버는 듀얼 800W 이중화 전원 공급 장치(redundant power supplies)로 구동됩니다. 그리고 이것이 서버인 만큼, 시스템을 원격으로 관리하기 위한 ASPEED AST2600 BMC가 내장되어 있으며, 전용 관리 네트워크에 연결할 수 있는 RJ45 잭도 갖추고 있습니다.

그 외에도 주목할 점은 이 서버가 데이터를 저장하는 것이 아니라 처리하도록 설계되었다는 것입니다. 사용 가능한 스토리지 유일한 슬롯은 PCIe Gen5 x2 속도로 작동하는 단일 M.2 2280 슬롯이며, 따라서 시스템에는 OS 드라이브를 위한 충분한 공간이 마련되어 있고 그것뿐입니다.

⚠️

마찬가지로, 이 서버의 기반이 되는 T7000 마더보드는 여러 개의 PCIe 슬롯을 가지고 있지만, ASRock Rack은 추가 슬롯들을 사용하지 않았습니다. RTX PRO 비디오 카드를 위한 I/O 브래킷 개구부가 하나만 있습니다.

마무리하며

2UXGI-THOR와 같은 엣지 서버는 데스크톱이든, 혹은 이 경우처럼 근처의 작은 서버실에서 AI를 실행하려는 고객들에게 얼마나 다양한 시스템을 제공하고 있는지를 보여줍니다. 대부분의 서버가 데이터 센터 하드웨어로 구축되는 시기에 서버에 자동차/산업용 SoC를 배치하는 것은 분명 특이한 접근 방식이지만, 동시에 ASRock Rack의 제품을 혼잡한 범용 시장에서 독특한 상품으로 만듭니다. 그 결과 2UXGI-THOR는 훨씬 더 니치(niche)한 하드웨어이며, 하지만 로컬 서버로 대량의 이미지를 수집하고 처리하려는 고객들에게는 기반이 되는 Thor SoC가 이 작업에 특히 잘 최적화되어 있습니다.