AMD가 책상 위에 놓인 4대의 컴퓨터로 1조 개 매개변수(parameter) AI 모델 구동

AMD는 책상 위에 놓인 4대의 컴퓨터로 1조 개 매개변수(parameter) AI 모델을 구동했습니다.

NVIDIA 데이터 센터도 없고,
거대한 GPU 클러스터도 없으며,
클라우드도 없습니다.

4× AMD Ryzen AI Max+ 머신
각 128GB 용량
이더넷(Ethernet)으로 연결됨

그들은 Kimi K2.5 — 1T 매개변수 오픈 모델 — 를 네 대의 머신에 로컬로 구동했습니다.

그리고 그것이 더 큰 이야기입니다.

OpenAI, Google, Anthropic은 클라우드를 중심으로 AI 시대를 구축해 왔습니다.

AMD는 또 다른 경로를 보여주고 있습니다:

당신의 하드웨어
당신의 모델
당신의 데이터
반복되는 토큰(token)당 비용 없음

AI가 내일 데이터 센터에서 사라지는 것은 아닙니다.

하지만 '클라우드 AI'와 '책상 위 AI' 사이의 격차가 방금 훨씬 줄어들었습니다.

전체 분석 ↓