Intel Meteor Lake NPU를 Proxmox 컨테이너에 패스스루하여 사용해 본 결과

요약

본 기사는 Intel Meteor Lake NPU를 Proxmox의 비특권 LXC 컨테이너에 패스스루하여 실제 AI 워크로드를 테스트한 결과를 공유합니다. 그 결과, NPU는 embeddings 및 음성 인식(Whisper) 작업에서 CPU 대비 높은 성능을 보였으나, LLM 토큰 생성에서는 내장 GPU에 크게 뒤처지는 것으로 분석되었습니다. 또한, Proxmox 환경에서 NPU를 성공적으로 패스스루하기 위한 기술적인 설정 방법도 제시합니다.

핵심 포인트

• NPU는 embeddings 및 음성 인식 작업에 실용적이며, 저전력 AI 상시 구동에 적합하다.
• LLM 토큰 생성 같은 고부하 작업은 내장 GPU가 NPU보다 월등히 성능이 좋다.
• Proxmox에서 비특권 LXC로 장치를 패스스루하려면 `dev[n]:` 단축키를 사용하는 것이 가장 효율적이다.