AMD와 Intel, CPU 기반 AI 추론을 위한 단일 PyTorch 코드 경로 구축에 협력

Intel과 AMD는 PyTorch용 CPU 최적화 기능을 통합하여 oneDNN 라이브러리를 통해 AMD 및 Intel 칩 모두를 위한 튜닝을 제공할 예정입니다. AMD는 기존에 oneDNN의 다운스트림 버전인 ZenDNN을 유지해 왔으나, 이제 UXL Foundation에서 발행하고 Intel이 주도하는 오픈 소스 oneDNN으로 통합됩니다. AMD 또한 UXL Foundation에 '운영 위원(steering member)'으로 참여하며, 이를 통해 기여금 연간 $20,000을 받는 대가로

AMD는 이러한 노력을 oneDNN 아래 통합하는 것이 x86 Ecosystem Advisory Group (EAG)의 권고에 따른 것이라고 밝혔습니다. EAG는 2024년에 설립된, 주로 Intel과 AMD 간의 공동 이니셔티브입니다. 두 회사는 이미 EAG를 통해 협력한 바 있으며, 예를 들어 x86용 ACE 확장 기능(ACE extensions for x86)이 있습니다 이는 올해 초에 알게 된 내용입니다.

oneDNN 백엔드는 CPU 추론(inference)에 사용되며, PyTorch와 같은 프레임워크에서 최신 Intel(그리고 이제 AMD) 칩의 워크로드를 가속화하도록 구축되었습니다. oneDNN이 2023년 말에 PyTorch에 백엔드로 추가되었을 때 PyTorch 블로그를 통해, Float32 데이터 유형에서는 1.24배의 개선을, BFloat16 데이터 유형에서는 2.21배의 개선을 보여주었습니다.

oneDNN GitHub에 따르면, 이 라이브러리는 플랫폼을 위해 최적화된 커널(kernels)을 생성하기 위해

개발자들에게 이 움직임은 다양한 시스템에서 PyTorch를 사용하는 것을 간소화하며, 단일 백엔드가 사용 중인 모든 하드웨어에 적절한 최적화를 제공하도록 보장합니다. 비록 여기서의 뉴스는 x86 가드에 초점을 맞추고 있지만, oneDNN은 Arm 및 RISC-V 아키텍처에서도 작동하는 크로스 플랫폼 라이브러리입니다.

Intel은 원래 기존 딥러닝 라이브러리를 기반으로 oneDNN을 개발했으며, 이후 UXL Foundation에 통합되었습니다. Intel은 Arm, Qualcomm, Google Cloud 등과 함께 UXL Foundation의 창립 멤버 중 하나였습니다.

AMD와 Intel, CPU 기반 AI 추론을 위한 단일 PyTorch 코드 경로 구축에 협력

요약

핵심 포인트

댓글