AMD가 자사의 Strix Halo APU를 물리적 AI (physical AI)의 세계로 가져오고 있습니다. 새로운 X100 시리즈 프로세서는 클라이언트 기기에서 회자되는 다양한 Ryzen AI Max 모델과 유사한 사양을 갖추고 있지만, 로보틱스와 같은 임베디드 (embedded) 애플리케이션에서 10년의 수명 주기와 24/7 상시 작동에 최적화되어 설계되었습니다.

(40 CUs를 탑재한 업데이트 버전이 아닌) 세 가지 기존 Strix Halo 모델과 일치하는 세 가지 SKU가 있습니다. 최상위 모델인 X199는 16개의 Zen 5 코어와 40개의 RDNA 3.5 CU를 탑재합니다. X188은 12개 코어와 32개 CU로 사양이 낮아지며, X168은 8개 코어와 동일한 32개 CU를 탑재합니다. AMD는 각 모델에 대한 상세 사양을 공유하지 않았으나, 해당 라인업이 최대 5.1 GHz의 부스트 클럭(boost clock)과 128 GB의 통합 메모리(unified memory)를 지원한다고 밝혔습니다. 또한 최대 50 TOPS 성능의 XDNA 2 NPU, 45W에서 120W 사이의 구성 가능한 TDP, 그리고 영하 40도에서 영상 105도 사이의 작동 온도를 포함합니다.

AMD X100 lineup.

AMD

AMD X100 lineup.

AMD

AMD X100 lineup.

AMD

AMD의 라인업은 올해 초 물리적 AI를 위한 Panther Lake SoC 제품군을 출시한 Intel에 맞서 대응합니다. 두 회사 모두 CPU, AI 가속기(accelerator), 메모리가 별도의 칩으로 분산되어 있을 때 발생하는 지연 시간(latency)을 줄임으로써 로보틱스 분야에서 SoC의 이점을 주장합니다. X100 라인업은 Panther Lake보다 물리적으로 더 크며, 더 강력한 배포를 위해 SoC에 훨씬 더 많은 실리콘을 집적하고 있습니다.

AMD X100 performance.

(이미지 출처: AMD)

AMD는 플래그십 X199를 Intel의 Core Ultra X7 358H와 비교한 다양한 벤치마크 결과를 공유했습니다. Intel의 칩은 12개의 Xe3 코어를 갖춘 Intel Arc B390 iGPU를 탑재한 16코어 칩입니다. AMD는 GeekBench 6.1과 PassMark에서 각각 1.2배 및 1.3배 앞서 있다고 주장하며, 정수 워크로드 (integer workloads)를 살펴보는 비공식 SPECrate 2017 실행 결과에서는 1.5배 앞선다고 주장합니다. 그래픽 분야에서는 예상대로 AMD가 우위를 점하며, Vulkan 성능은 1.4배, OpenGL 성능은 1.7배(둘 다 Ubuntu에서 GFXBench 5로 측정) 더 빠르며, Unigine Heaven Extreme에서도 1.6배 앞선 성능을 보였습니다.

물리적 AI (physical AI) 측면에서, AMD는 45W TDP에서 실행되는 Vulkan 백엔드를 사용하여 Llama-bench에서 첫 번째 토큰 생성 시간 (Time to First Token, TTFT)은 1.4배 개선되었고, 초당 토큰 생성량 (tokens per second)은 3.5배 더 빠르다고 주장합니다. 하지만 이러한 결과는 상당한 주의를 기울여서 받아들여야 합니다.

AMD는 "Ryzen AI Embedded X199 사양을 반영하도록 구성된" Ryzen AI Max 395+를 테스트했습니다. 이는 5.1 GHz CPU 클록, 2.9 GHz GPU 클록, 그리고 지속적인 45W TDP를 갖춘 Maple 레퍼런스 보드에서 테스트되었습니다. 반면, X7 358H는 30W의 강제 TDP 제한이 설정된 MSI Prestige 16 Flip AI+에서 테스트되었습니다. 그 후 AMD는 "공개된 벤치마크 데이터에서 유도된 스케일링 인자 (scaling factors)를 사용하여" Intel 칩의 45W 성능을 "예측"했습니다.

다시 말해, 이는 정확히 일대일 비교 (apples-to-apples comparison)라고 할 수 없습니다. 여기 있는 모든 벤치마크에 걸쳐 일종의 대리 지표 (proxy stand-in)나 데이터 외삽 (extrapolation)이 사용되었으므로, AMD의 X100 발표의 나머지 내용을 살펴볼 때 이 점을 염두에 두어야 합니다.

AMD X100 Kria SOM 및 로보틱스 개발자 플랫폼

AMD Kria AI developer box.

Tom's Hardware

AMD Kria SOM.

AMD

AMD Kria SOM.

AMD

AMD Kria SOM.

AMD

칩 자체 외에도, AMD는 X100 모델을 Kria 시스템 온 모듈 (System on Module, SOM) 또는 통합 로보틱스 개발자 플랫폼의 일부로 제공하고 있습니다. Kria X100 보드는 120mm x 120mm 크기이며 표준화된 COM-HPC 폼 팩터를 준수합니다. 이 보드를 위한 개발을 원하는 개발자라면, AMD는 Kria AI 로보틱스 개발자 플랫폼을 제공하고 있습니다.

이는 AMD의 Spartan UltraScale+ FPGA 베이스보드와 함께 X100 Kria SOM을 활용하는 완전 통합형 박스입니다. AMD는 이것이 카메라 및 산업용 네트워킹을 위한 특화된 연결성과 로봇 센서를 포함하여, 로보틱스 개발을 위한 "턴키 (turnkey)" 솔루션이라고 밝히고 있습니다. 이 플랫폼은 현재 얼리 액세스 (early access)로 제공되며, AMD는 올해 4분기에 본격적인 생산에 들어갈 예정이라고 말했습니다.

Performance of AMD X100.

(이미지 출처: AMD)

AMD는 또한 X100 Kria를 Nvidia의 Thor T5000과 비교한 몇 가지 벤치마크 (benchmarks)를 공유했습니다. 이 벤치마크는 AMD 내부에서 실행된 것이 아닙니다. AMD의 의뢰를 받아 Open Navigation과 Mimix가 실행했습니다. 결정적으로, 이 벤치마크는 X100 Kria 보드를 테스트한 것이 아니며, 적어도 로봇 내부나 AMD의 개발자 박스에 들어갔을 때의 정확한 형태로는 테스트되지 않았습니다.

대신, AMD는 Nvidia의 Jetson AGX Thor 개발자 키트를 "Ryzen AI embedded x199 사양을 반영하도록 구성된" Ryzen AI Max+ 395 탑재 GMKtech EVO-X2 AI 미니 PC와 비교하고 있습니다. 당연하게도, 이 칩들의 열 및 전력 환경은 성능에 큰 영향을 미칠 것입니다.

AMD robotics software stack.

AMD

AMD robotics software stack.

AMD

AMD robotics software stack.

AMD

AMD robotics software stack.

AMD

AMD는 또한 개발자들이 Nvidia의 CUDA 플랫폼에서 이탈하도록 유도하려는 시도를 계속하고 있습니다. AMD의 HIPIFY 도구는 CUDA 코드를 AMD의 HIP C++ 포터블 (portable) 코드로 변환하며, 회사 측은 이제 포팅 (porting)에 필요한 "노력"의 70~80%를 자체적으로 처리할 수 있다고 주장합니다. AMD는 다시 한번 X199와 일치하도록 구성된 Ryzen AI Max+ 395에서 테스트를 진행했으며, 1,199줄의 코드로 구성된 15개의 CUDA 애플리케이션을 포팅하여 70%에서 80% 범위의 결과에 도달했습니다.

X100 Kria는 로보틱스 플랫폼의 "두뇌" 역할을 하지만, AMD는 Spartan UltraScale+를 통해 휴머노이드 스타일 로봇을 위한 엔드 투 엔드 (end-to-end) 솔루션을 구상하고 있습니다. Zynq UltraScale+, 그리고 Versal AI Edge Gen 2 FPGA 및 SoC