Nvidia의 최고경영자(CEO)인 Jensen Huang은 회사의 차세대 AI 플랫폼 지연설을 부인하며, 곧 출시될 Vera Rubin 플랫폼의 생산량이 '거대하다'고 말했습니다. 그는 144개의 AI GPU를 탑재한 Vera Rubin Ultra 기반 랙 규모 시스템의 지연 보고서에 대해서는 언급하지 않았습니다.
Huang은 일본에서 열린 행사의 측근 기자들에게 "Vera Rubin 지연 관련 보도는 사실이 아닙니다"라고 말했습니다. (출처: Bloomberg). "Vera Rubin은 이미 생산 중이며, 거대한 양의 제품이 곧 들어올 것입니다."
Nvidia는 자사의 Vera Rubin 플랫폼 생산을 1월에, 그리고 2월에 샘플을 제공한 바 있어, 이번 발언은 우리가 이미 알고 있는 내용을 재차 강조하는 것입니다. Nvidia가 '거대한 양의 생산'이 곧 들어올 것이라고 강조하는 것은 투자자들에게 회사가 차세대 Vera CPU, Rubin GPU, 그리고 Vera Rubin NVL72 시스템을 향후 분기에 대량으로 판매할 계획이며, 이는 기록적인 분기가 더 이어질 것임을 안심시키기 위함입니다.
Huang CEO가 다루지 않았거나 혹은 질문받지 않은 부분은, 시스템의 복잡한 PCB 미드플레인 때문에 구리 인터커넥트를 사용하는 Nvidia의 Kyber NVL144 랙 규모 솔루션이 2027년에서 2028년으로 1년 이상 지연될 것이라는 소문입니다. _SemiAnalysis_의 보도에 따르면, 대안적인 듀얼 랙 디자인은 취소되었으며, 훨씬 더 큰 CPO 기반 NVL576 구성 역시 지연되거나 제한된 가용성에 직면할 수 있다고 합니다. 이번 차질로 인해 Nvidia의 Rubin Ultra 플랫폼은 원래 예상했던 것보다 작은 NVLink 스케일업 도메인을 갖게 될 수 있습니다. 하지만 Nvidia는 로드맵에 문제가 없다고 말합니다.
Kyber NVL144 아키텍처는 구리 기반 NVLink 7 스케일업 패브릭을 사용하여 144개의 Rubin Ultra GPU를 연결하도록 설계되었기 때문에, 이 시스템은 구성 요소 간의 고속 전기 링크를 전송하기 위해 정교한 PCB 미드플레인을 필요로 했습니다. _SemiAnalysis_는 이 미드플레인이 제조하기 어려웠으며, 이것이 지연을 초래했다고 주장합니다. 해당 보고서는 결함 있는 칩이나 보드에 장착된 특정 구성 요소의 문제를 지적하지 않지만, PCB 인프라 자체의 제조 가능성에 초점을 맞추고 있습니다.
Nvidia 대변인은 _Tom's Hardware_에
Nvidia는 Kyber의 대안으로 NVL72x2라는 구리 기반 설계를 고려한 것으로 알려졌습니다. 이 시스템은 광학 인터커넥트를 사용하지 않고 두 개의 Oberon 랙을 나란히 배치하여 NVLink 스케일업 도메인의 크기를 확장하는 방식이었습니다. 그러나 SemiAnalysis에 따르면 고객들이 이 특이한 설계와 운영 요구 사항을 거부했으며, 서비스 용이성(serviceability), 냉각(cooling), 케이블링(cabling), 데이터센터 레이아웃 등 개별적인 반대 의견은 구체적으로 밝히지 않았습니다.
한편, NVSwitches 간에 Co-packaged optics를 사용하여 연결하도록 계획되었던 NVL576 랙 스케일 솔루션 역시 '진행 중인 CPO(Co-packaged Optics) 문제' 때문에 연기되거나 상대적으로 소량만 출하되었다고 SemiAnalysis는 주장합니다.
계획된 NVL576 구성의 존재는 Nvidia가 Rubin 세대용으로 일종의 CPO 지원 NVSwitch 연결을 개발해 왔음을 시사합니다. 이론적으로, 유사한 광학 스위치-투-스위치 연결은 더 작은 GPU 그룹들을 NVL144 시스템에 연결하고 Kyber의 문제가 있는 구리 미드플레인을 우회하는 데 사용될 수 있습니다. 하지만 현재 이용 가능한 정보만으로는 NVL576을 위해 의도된 CPO 기술이 Kyber의 토폴로지, 대역폭, 지연 시간 특성을 재현할 수 있는지, 또는 잠재적인 NVL144 고객들이 대량 배포하기에 충분히 성숙했는지 명확하게 알기 어렵습니다.
보고된 Kyber 지연은 Nvidia가 성능을 2배 낮추는 것으로 예상되는 [Rubin Ultra의 쿼드 컴퓨트-칩렛 버전 대신 듀얼 컴퓨트-칩렛 디자인으로 취소했다는] 또 다른 보도에 이은 것입니다. Kyber NVL144가 지연되고 NVL72x2가 취소됨에 따라, Nvidia는 2028년경까지 72웨이 스케일업 시스템만을 제공할 수 있게 되며, 이는 AMD와 Google이 2027년2028년에 더 경쟁력 있는 스케일업 시스템을 갖게 될 수도 있음을 의미합니다. Verano CPU와 Instinct MI500 시리즈 가속기를 기반으로 하는 AMD의 Mega Pod는 [최대 256개의 가속기]를 탑재할 것으로 예상되며, Google의 TPU 8i는 하나의 저지연 도메인 내에서 대략 [1,0241,152개의 가속기]를 제공할 수 있는 반면, TPU 8t는 훨씬 더 나아가 도메인당 9,600개 칩 패키지에 이를 수 있습니다.
