소형 TTS 모델(VRAM 피크: 5GB) 실행 시 21개 GPU 벤치마크 결과

요약

소형 TTS 모델인 OmniVoice를 활용하여 21종의 다양한 GPU 성능을 벤치마크한 결과입니다. 소비자용 GPU들이 기존 RTX 3090과 비교하여 실시간 대비 오디오 생성 속도(xRT)에서 어떠한 성능 차이를 보이는지 대략적인 추정치를 제공합니다.

핵심 포인트

• VRAM 피크 사용량이 약 5GB인 소형 TTS 모델 OmniVoice를 벤치마크 대상으로 선정
• vast.ai를 통해 다양한 소비자용 GPU를 대여하여 RTX 3090과 성능 비교 수행
• 실시간 대비 배수(xRT) 지표를 사용하여 오디오 생성 속도 측정
• 음성 복제(voice cloning) 환경에서 짧은 단락을 3회 실행한 평균값 사용