WARDEN: 6시간의 학습 데이터로 수행하는 멸종 위기 원주민 언어 전사 및 번역

요약

본 논문은 학습 데이터가 극도로 부족한 호주의 멸종 위기 원주민 언어 Wardaman의 전사 및 번역 시스템인 WARDEN을 소개합니다. 기존의 대규모 통합 모델 방식으로는 처리하기 어려운 저자원(Low-resource) 환경에서, WARDEN은 별도의 음소 전사 모델과 영어 번역 모델로 구성된 2단계 아키텍처를 채택했습니다. 이 시스템은 Sundanese 언어로부터 토큰을 초기화하고 도메인 특화 지식을 활용하는 방식으로 성능을 극대화하여, 단 6시간의 데이터만으로도 강력한 결과를 달성합니다.

핵심 포인트

• WARDEN은 학습 데이터가 매우 부족한(Low-resource) 원주민 언어 Wardaman을 위한 전사 및 번역 시스템이다.
• 통합 모델 대신 별도의 음소 전사 모델과 영어 번역 모델로 구성된 2단계 아키텍처를 사용한다.
• 전사 모델의 성능 향상을 위해 유사 언어(Sundanese)로부터 토큰 초기화(Initialization) 기법을 적용했다.
• 번역 과정에서는 전문가 주석 기반의 도메인 특화 지식(Domain-specific knowledge)을 LLM에 제공하여 정확도를 높였다.
• 단 6시간의 오디오 데이터만으로도 기존 통합 방식보다 우수한 성능의 강력한 베이스라인을 구축했음을 입증했다.