LLM 기반 병렬 텍스트 생성을 통한 저지연 실시간 오디오 게임 해설 시스템

요약

본 시스템은 라이브 게임플레이 비디오를 기반으로 저지연 실시간 오디오 해설을 생성하는 엔드투엔드 솔루션을 제시합니다. 기존의 순차적 파이프라인에서 발생하는 긴 대기 시간 문제를 해결하기 위해, 음성 재생과 텍스트 생성을 병렬로 처리하고 여러 후보 발화를 미리 버퍼링하여 즉각적인 합성이 가능하게 했습니다.

핵심 포인트

• 병렬 설계를 통해 평균 침묵 시간을 9.6초에서 0.3초로 대폭 감소시켰습니다.
• 전문적인 말하기-침묵 타이밍 패턴 유사성을 40% 이상 향상했습니다.
• 사용자 연구를 통해 인지된 해설의 리듬감이 현저히 개선되었음을 확인했습니다.