Nvidia가 RAM 부족 사태 속 로컬 AI 사용자들을 위해 64GB DGX Spark를 출시하다

Nvidia는 오늘날의 AI 모델 현실과 광범위한 실리콘 공급난에 맞춰 인기 있는 DGX Spark 플랫폼과 GB10 SoC를 조정하고 있습니다. 이 회사는 128GB의 RAM이 필요하지 않은 로컬 AI 개척자들을 위해 더 저렴하게 접근할 수 있도록 64GB 버전의 Spark를 도입합니다.

DGX Spark 및 유사 시스템의 기능을 처음 탐색했을 때, 일반적인 가정은 가장 지능적인 모델을 실행하는 데 많은 양의 RAM이 필요하다는 것이었습니다. 따라서 AMD의 Strix Halo, Nvidia의 GB10, Apple의 M-series 칩을 기반으로 하는 통합 메모리 시스템들은 모두 128GB 이상의 메모리로 구성될 수 있었습니다.

하지만 AI 분야는 빠르게 변화합니다. Qwen 3.8 27B와 같은 고도로 지능적인 밀집 모델(dense models)은 이제 (컨텍스트가 제한적일지라도) 32GB의 RAM 내에 편안하게 들어갈 수 있습니다. 따라서 원래 Spark의 128GB 메모리는 로컬 추론만 하는 데 필수적이지 않습니다. 게다가 급등하는 RAM 가격은 너무 많은 비용이 많이 드는 LPDDR5X와 영구적으로 결합된 칩을 자산이라기보다는 진입 장벽으로 만듭니다. 따라서 Nvidia의 GB10 Superchip의 기능과 지원 소프트웨어 스택이 필요하고 메모리가 적어도 괜찮은 사람들에게는 RAM 용량이 더 적은, 더 저렴한 Spark가 합리적입니다.

물론 '더 저렴한' DGX Spark라는 것은 오늘날 시장에서 상대적인 개념입니다. Acer, Asus, Dell, Gigabyte, HP, MSI의 64GB GB10 시스템은 10월 23일에 출시될 때 $4999부터 시작할 예정입니다. 현재 메모리와 스토리지 가격이 계속 변동하고 있기 때문에 이 가격을 오래 유지하지 못할 수도 있습니다. 만약 재고에서 128GB GB10 시스템을 찾을 수 있다고 가정한다면, 현재는 Nvidia의 조정된 MSRP보다 훨씬 높은 약 $7000~$9000를 지불해야 할 것으로 예상됩니다.

메모리 용량 변경과는 별개로, 64GB Spark는 기존의 128GB 모델과 동일한 ConnectX 7 RDMA NIC를 유지합니다. 이는 사용자가 궁극적으로 64GB RAM의 한계를 초과하는 경우에도 클러스터링하여 메모리 용량 및 추론 성능을 향상시킬 수 있음을 의미합니다. 또한, 원래 Spark에 탑재된 20코어 Arm CPU 복합체와 CPU 및 GPU를 위한 273 GB/s의 공유 메모리 대역폭 역시 변경 없이 유지됩니다.

Nvidia는 이 ConnectX 7 NIC를 활용하는 것을 더욱 쉽게 만들기 위해 새로운 소프트웨어 도구인 Nvidia Sync Cluster Assistant를 제공합니다. 이 도구는 여러 시스템을 연결하여 하나의 클러스터로 만드는 과정을 자동화해줍니다. (Sync는 Spark용 원격 연결 및 관리 앱으로, 사용자가 다른 Mac이나 PC의 AI 성능을 자신의 Spark에서 사용할 수 있게 해줍니다.)

이 도구는 지난 한 해 동안 클러스터링 프로세스를 더욱 원활하게 만들기 위해 등장한 다양한 커뮤니티 개발 유틸리티들을 보완합니다. 예를 들어, 올해 초에 저희가 두 대의 Dell GB10 시스템을 클러스터링하는 실험을 할 때 사용했던 방식과 같습니다.

Nvidia는 또한 Sync에 Model Launcher라는 기능을 추가했습니다. 이 기능은 앞서 언급된 Qwen 3.8 27B와 같은 모델을 하나 이상의 시스템에 자동으로 다운로드하고 시작하며, 이를 OpenCode 브라우저 기반 코딩 에이전트와 연결하여 사용자가 즉시 로컬 토큰 팩토리(local token factories)를 에이전트 워크플로우(agentic workflows)에 사용할 수 있도록 합니다.

128GB DGX Spark 및 Spark 유사 모델들은 더 큰 모델을 위한 공간이나 클러스터 전반의 확장, 또는 모델 미세 조정(model fine-tuning)과 같이 메모리를 많이 사용하는 로컬 AI 작업을 필요로 하는 사용자들을 위해 계속해서 이용 가능합니다. 따라서 이번 DGX Spark 라인업에 추가된 것은 기본적으로 단점이 없습니다. 오늘날 변동성이 큰 시장에서 선택지를 갖는 것은 좋으며, 64GB Spark는 현지 AI 애호가들에게 예산과 워크플로우에 더 잘 맞는 또 다른 선택지를 제공합니다.