브라우저 내에서 NVIDIA의 Parakeet TDT 0.6B V2 영어 전사(transcription) 모델을 고성능으로 추론합니다.
라이브 데모를 확인해 보세요: https://parakeet.narcotic.sh/
raw WebGPU 컴퓨트 셰이더(compute shaders)와 SIMD WebAssembly 오디오 프론트엔드를 사용한 완전한 커스텀, 의존성 없는 구현체입니다.
1시간 분량의 오디오를 20초 만에 전사합니다 (Apple M5, Google Chrome 151.0.7922.72).
소스 코드를 확인하고 여러분의 프로젝트에 사용해 보세요!
https://github.com/narcotic-sh/parakeet.wgsl
https://www.npmjs.com/package/parakeet.wgsl
이것은 브라우저에서 로컬로 실행되는 빠르고 정확한 전사의 첫 번째 사례일 수 있습니다. 기기에 GPU가 있고 WebGPU를 지원하는 브라우저를 실행할 수 있다면, parakeet.wgsl은 어디에서나 실행될 것입니다.
또한 WebGPU는 사실상 거의 모든 GPU로 트랜스파일(transpiles)되기 때문에, Dawn 또는 wgpu를 통해 parakeet.wgsl을 브라우저 외부 또는 오프라인에서 실행할 수 있는 길도 열어줍니다. 이를 통해 빠르고 정확한 전사 기능을 GPU 가속과 함께 거의 모든 하드웨어/기기를 지원하는 오프라인 프로그램으로 가져올 수 있습니다.
여러분이 이 프로젝트에 대해 어떻게 생각하시는지 궁금합니다.
마지막으로, 저는 구직 중입니다. 제 작업물이 마음에 들고 제가 귀하의 팀에 적합하다고 생각하신다면, 대화 나누고 싶습니다. https://hamzaq.com 에서 확인하실 수 있는 다른 작업물들도 있습니다.
모두 즐거운 시간 보내세요. 빠르고 크로스 플랫폼을 지원하는 GPU 가속 로컬 전사를 즐겨보세요!