교차 언어 전이(Cross-Lingual Transfer) 및 LoRA 어댑터 병합(Adapter Merging)을 통한 저자원 아랍 문자
요약
아랍 문자 기반 저자원 언어의 생물 의학 번역 성능을 높이기 위해 교차 언어 전이와 LoRA 어댑터 병합 전략을 연구했습니다. 고자원 언어를 피벗으로 활용하여 다리어, 파슈토어 등 저자원 언어의 번역 품질을 개선하는 다양한 전이 기법을 평가했습니다.
핵심 포인트
- LoRA 미세 조정을 통한 도메인 특화 피벗 어댑터 학습
- 제로 데이터 LoRA 어댑터 병합을 통한 추가 비용 없는 성능 향상
- 다리어의 경우 500개 문장만으로도 피벗 언어에 근접한 품질 달성
- 언어 간 구조적 거리가 멀 경우 교차 언어 전이의 한계 존재
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기