AMD ZenDNN 6.0: Ryzen/EPYC CPU에서의 추론 가속화에 많은 개선 사항을 제공
요약
AMD가 CPU 기반 AI 추론 가속화 솔루션인 ZenDNN 6.0을 출시했습니다. 이 라이브러리는 TensorFlow나 PyTorch 같은 프레임워크에서 플러그인 형태로 작동하며, AMD CPU에 최적화되어 있습니다. 주요 개선 사항으로는 LowOHA API 지원, MoE 그룹 GEMM 및 FP16 연산자 커버리지 확장 등이 포함되었습니다.
핵심 포인트
- ZenDNN은 oneDNN의 대안으로 AMD CPU용 AI 추론 가속화 솔루션입니다.
- LowOHA API 지원과 MoE 그룹 GEMM/FP16 연산자 커버리지가 개선되었습니다.
- AMD Zen 6 데뷔 전 공식적으로 출시되어 개발 활용도가 높습니다.
AMD ZenDNN 6.0: Ryzen/EPYC CPU에서의 추론 가속화에 많은 개선 사항을 제공
ZenDNN은 Intel / UXL Foundation의 oneDNN 라이브러리를 대체하는 AMD의 대안이며, TensorFlow나 PyTorch와 같은 프레임워크에서 플러그인 형태로 작동할 수 있는 AMD CPU 최적화 솔루션입니다. 일반적으로 새로운 AMD 소프트웨어 릴리스는 새로운 AMD CPU 출시 시점 전후에야 볼 수 있었지만, 이번 ZenDNN 6.0에서는 공식 AMD Zen 6 데뷔 이전에 도착하는 것을 확인할 수 있습니다.
ZenDNN 6.0에는 낮은 오버헤드 API인 "LowOHA"에 대한 작업 증가, 확장된 MoE 그룹 GEMM 및 FP16 연산자 커버리지, 그리고 후처리(post-op) 및 가중치 캐싱 기능이 추가되었습니다.
주요 AMD ZenDNN 6.0 릴리스의 다운로드 및 자세한 내용은 GitHub에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Phoronix의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0