VibeVoice 1.5B를 로컬에서 실행... iPhone에서! 단 ~2.2 GB의 메모리와 최대 1.28배의 실시간 속도로

요약

VibeVoice 1.5B 모델을 iPhone 로컬 환경에서 실행하는 기술을 소개합니다. 약 2.2GB의 메모리만으로 구동 가능하며, 실시간 속도 대비 최대 1.28배 빠른 성능을 보여줍니다.

핵심 포인트

• iPhone 로컬 환경에서 VibeVoice 1.5B 모델 구동 성공
• 약 2.2GB의 낮은 VRAM 사용량으로 효율적인 메모리 관리
• 실시간 속도 대비 최대 1.28배 빠른 생성 성능 구현
• audio.cpp HF 리포지토리를 통해 모델 공개