NVIDIA가 놀라울 정도로 작은 음성 인식 (speech recognition) 모델을 방금 출시했습니다.

이 모델의 이름은 Nemotron-3.5-ASR이며, 파라미터 (parameters) 수는 단 0.6B에 불과합니다.

인상적인 점은 무엇일까요? 이 모델은 40개 이상의 언어를 지원하고, 실시간 전사 (real-time transcription)를 제공하며, GPU 없이 CPU에서만 완전히 실행됩니다. 또한 동일한 인식 결과를 생성하면서도 공식 NeMo 런타임 (runtime)보다 2.5배 더 빠릅니다.

오프라인으로 실행할 수 있고 에이전트 워크플로 (agent workflows)에 쉽게 연결할 수 있기 때문에, 유용한 AI가 항상 거대하거나 비쌀 필요는 없다는 점을 다시 한번 상기시켜 줍니다.

작은 모델. 빠른 성능. GPU 불필요. 이는 매우 매력적인 조합입니다.