토크나이저 이식(Transplantation): 효율적인 벵골어 음성 인식에서 자기회귀적 붕괴 완화
요약
본 연구는 영어 중심의 바이트 레벨 토크나이저가 벵골어와 같은 형태론적으로 풍부한 언어에서 자기회귀적 붕괴를 유발하는 문제를 분석했습니다. 이를 해결하기 위해 네이티브 스크립트 기반의 BanglaBERT WordPiece 어휘집을 이식하고 임베딩 행렬 크기를 조정하는 새로운 파이프라인을 제안합니다. 그 결과, WER과 RTF 측면에서 높은 성능 개선을 입증하며 크로스 스크립트 적응에 활용 가능한 청사진을 제시했습니다.
핵심 포인트
- 영어 중심 토크나이저가 벵골어 등 비라틴어 언어에서 붕괴 유발
- BanglaBERT WordPiece 어휘집 이식으로 문제 해결 시도
- 자기회귀적 붕괴 완화 및 WER/RTF 성능 개선 입증
- 자원 집약적 사전 학습 없이 크로스 스크립트 적응 가능
경량 음성 인식 모델은 엣지 배포에 매우 중요하지만, Moonshine과 같이 고도로 최적화된 아키텍처는 벵골어와 같이 형태론적으로 풍부하고 라틴어가 아닌 언어에서는 종종 실패합니다. 본 연구는 이러한 실패의 근본 원인을 모델의 영어 중심 바이트 레벨 토크나이저에서 찾았으며, 이 토크나이저는 벵골어 단어를 높은 생식력(high-fertility)을 가진 바이트 체인으로 분해하여 추론 과정 중 치명적인 자기회귀적 붕괴(autoregressive collapse)를 유발합니다. 이를 해결하기 위해, 디코더 어휘집을 네이티브 스크립트의 BanglaBERT WordPiece 어휘집으로 교체하고 해당 토큰 임베딩 행렬 크기를 조정하는 새로운 어휘집 이식 파이프라인을 제안합니다. 실험 결과, 토큰 생식력이 9.16에서 1.30으로 감소했음을 보여줍니다. 자기회귀 시퀀스 길이를 85.8% 줄임으로써 디코딩 불안정성이 완전히 완화되었습니다. 882시간 분량의 Lipi-Ghor 데이터셋으로 평가했을 때, 수정된 아키텍처는 경쟁력 있는 21.54% 단어 오류율(Word Error Rate, WER)과 0.0053의 실시간 계수(Real-Time Factor, RTF)를 달성합니다. 궁극적으로 본 연구는 자원 집약적인 사전 학습 없이도 간소화된 ASR 모델을 크로스 스크립트 적응에 사용할 수 있는 확장 가능하고 재현 가능한 청사진을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기