드디어 스마트 홈을 위한 ASR 작업에 내 NPU (Intel Arrow Lake)를 활용해 보았습니다

요약

Intel Arrow Lake NPU를 활용하여 스마트 홈용 ASR(자동 음성 인식) 작업을 수행한 성능 비교 결과입니다. CPU 대비 속도와 에너지 효율 면에서 압도적인 성능 향상을 확인했습니다.

핵심 포인트

• NPU 사용 시 CPU 대비 약 4.8배 빠른 속도와 10.7배 적은 에너지 소모
• 짧은 음성 명령 처리 시 NVIDIA GPU보다 빠른 응답성(Low Latency) 제공
• NPU 활용을 통해 CPU 부하를 줄이고 GPU VRAM을 절약 가능
• Intel NPU의 낮은 TOPS 수치에도 불구하고 특정 ML 워크로드에서 높은 효율 증명