Docker 기반 Nemotron 3.5 ASR — Parakeet에서 전환, 더 나은 다국어 지원 + 스트리밍 (CPU에서 실시간 속도

요약

Parakeet에서 Nemotron 3.5 ASR로 전환하여 다국어 지원과 스트리밍 성능을 개선한 사례를 소개합니다. Docker를 통해 컨테이너화되었으며, CPU 환경에서도 onnxruntime-genai를 활용해 실시간보다 4.5배 빠른 속도를 구현했습니다.

핵심 포인트

• 40개 이상의 로케일을 지원하는 강력한 다국어 성능
• 전체 파일 버퍼링이 필요 없는 네이티브 스트리밍 아키텍처
• onnxruntime-genai 기반 CPU 환경에서의 높은 처리 속도
• Docker를 활용한 간편한 배포 및 API 호출 예시 제공