This Nvidia challenger says its AI chip is 10x faster than a GPU

점점 더 경쟁이 치열해지는 AI 칩 시장에서, 세계에서 가장 가치 있는 기업인 Nvidia를 능가한다고 주장하는 또 다른 스타트업의 제품이 생산 단계에 들어섰습니다.

D-Matrix는 Nvidia의 실리콘밸리 본사에서 불과 3마일 떨어진 곳에 위치해 있으며, 자사의 칩은 특정 워크로드(작은 규모)에 한해서 시장 선두 주자의 독립형 그래픽 처리 장치(GPU)보다 추론(inference) 워크로드를 10배 더 빠르게 실행하고 전력 소모는 5배 적게 할 수 있다고 주장합니다.

Corsair라는 이름의 이 새로운 추론 칩은 Cerebras나 Groq와 유사한 메모리 접근 방식을 채택했습니다. 기술 거대 기업들이 확보할 수 있는 모든 컴퓨팅 자원을 요구함에 따라, 소규모 플레이어들에게도 상당한 기회가 있다는 것이 분명해지고 있습니다.

2015년에 설립된 Cerebras는 지난달 대성공적인 IPO를 통해 55억 달러 이상을 모금했으며, 현재 가치는 500억 달러가 넘습니다. 그리고 Groq의 자산은 작년 12월 Nvidia에 200억 달러에 인수되면서, 이 AI 거인의 역대 최대 규모 구매가 되었습니다. 이후 Nvidia는 지난 3월 GTC에서 언어 처리 장치(language processing unit)라는 이름으로 새로운 Groq 칩을 출시했습니다.

D-Matrix의 공동 창립자이자 CEO인 Sid Sheth는 CNBC와의 인터뷰에서

셰스는 코세어(Corsair) 고객사 이름은 아직 공개하지 않았지만, 최대한 많은 컴퓨팅 자원을 확보하기를 원하는 유명 하이퍼스케일러(hyperscalers), 니오클라우드(neoclouds), 그리고 프론티어 AI 연구소들로부터 약속을 받았다고 말했다. 셰스는 D-Matrix가 이번 달에 이들 고객사들에게 출하되기 시작한다고 밝혔다. 그는 그중 약 90%가 미국에 위치하며, 해외 고객들은 중동과 동남아시아에 있다고 전했다.

번스타인 리서치(Bernstein Research)의 반도체 분석가 스테이시 라스곤(Stacy Rasgon)은

셰스(Sheth)에 따르면 Corsair는 언어 크기보다는 '상호작용성 또는 속도'를 최적화하는 AI 추론(inference)을 위해 설계되었습니다. 챗봇, 음성 에이전트, 그리고 Claude Code나 OpenClaw 같은 에이전트형 도구들이 여기에 해당합니다.

D-Matrix는 Gimlet Labs의 연구 결과를 인용하며, Corsair가 Nvidia Blackwell GPU와 결합될 경우 독립적인 GPU 대비 추론 속도를 10배 빠르게, 비용을 3배 저렴하게, 그리고 에너지 효율은 최대 5배 높게 구동할 수 있다고 밝혔습니다.

Jensen Huang Nvidia CEO는 지난주 자신의 회사가 최고의 Vera Rubin 시스템으로 낮은 비용의 추론 분야에서 여전히 선두를 지키고 있다고 말했습니다. 그 이유는 단순히 속도만의 문제가 아니기 때문입니다.

대만 컴퓨텍스(Computex)에서 황 CEO는