저희는 실시간 대화를 위해 구축된 TTS 모델인 Gepard 1.0을 오픈 소스로 공개했습니다. 이 모델은 스트리밍 우선(streaming-first) 방식으로 설계되었습니다. 전체 문장이 완성될 때까지 기다리는 대신, 텍스트가 도착하는 즉시 프레임 단위로 생성되어 오디오가 시작됩니다.

• 약 555M 파라미터: Qwen3.5 0.8B 백본 (14개 레이어) + Nemo NanoCodec (FSQ, 22.05kHz)
• vLLM을 통한 RTX 5090 1대 기준 약 20배의 RTF(Real-Time Factor), 약 50ms의 TTFA(Time-To-First-Audio)
• 96GB VRAM을 갖춘 단일 RTX Pro 6000 Blackwell에서 최대 256개의 병렬 시퀀스 처리 가능
• 몇 초간의 참조 음성만으로 가능한 제로샷(Zero-shot) 음성 복제
• 지원 언어: 영어 (US/UK), 스페인어 (MX), 포르투갈어 (BR), 네덜란드어
• Apache 2.0

벤치마크 (Seed-TTS-eval): 동일한 텍스트를 사용하여 VoxCPM2, Fish-S2, OmniVoice, Qwen3-TTS, Echo-TTS, 그리고 Chatterbox Turbo와 정면 승부를 펼쳤습니다.

Gepard는 인지된 품질 면에서 분야를 선도합니다. 가장 높은 NISQA-MOS (4.25)를 기록했으며, 노이즈, 색채(coloration), 불연속성 측면에서 가장 깨끗한 성능을 보여줍니다.

솔직한 트레이드오프(tradeoff): 스트리밍 우선 설계로 인해 화자 유사도(SIM 0.585)와 단어 오류율(WER 0.036) 측면에서 손실이 발생했습니다. 따라서 정확한 음성 일치보다 자연스러운 실시간 음성이 더 중요한 환경에 매우 적합합니다.

링크:
모델 (Model)
HF space
추론 (Inference)
vLLM 서빙 (Cartesia 호환 API)
학습 (Training)

또한 저희 웹사이트(https://www.nineninesix.ai)에서 vLLM 상에서 어떻게 작동하는지 확인할 수 있습니다.
아키텍처나 추론에 관한 질문은 언제든 환영합니다!

제출자: /u/ylankgz
[link] [comments]