hubert.cpp, distilHuBERT의 C++ 구현체 [P]
요약
distilHuBERT의 C++ 구현체인 hubert.cpp를 소개합니다. 런타임 의존성 없이 가중치가 컴파일되어 포함되어 있으며, onnxruntime과 대등한 성능을 제공합니다.
핵심 포인트
- 런타임 의존성 없는 가벼운 C++ 구현체
- 가중치가 라이브러리에 직접 포함되어 통합 용이
- 동적 크기 지원 및 onnxruntime 수준의 성능
- CMake 프로젝트에 쉽게 통합 가능
distilHuBERT의 C++ 구현체를 작성했습니다.
https://github.com/pfeatherstone/hubert.cpp
이 라이브러리는 런타임 의존성(runtime dependencies)이 없으며, 가중치(weights)가 라이브러리에 컴파일되어 포함되어 있습니다. 동적 크기(dynamic sizes)를 지원하고, (제 테스트 결과에 따르면) onnxruntime과 대등한 성능을 보여주며, 어떤 CMake 프로젝트에도 쉽게 통합할 수 있습니다.
여러분의 의견을 알려주세요.
submitted by /u/Competitive_Act5981 to r/MachineLearning
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0