CzechDocs: 체코 내 소수 언어를 위한 서식 지정 문서의 다방향 병렬 데이터셋

우리는 체코어 및 체코 내에서 사용되는 소수 언어(주로 우크라이나어와 영어, 그리고 베트남어, 러시아어 및 기타 언어의 적은 비중)를 다루는 서식 지정 문서(HTML, DOCX, PDF)의 다방향 병렬 데이터셋인 CzechDocs를 선보입니다. 이 데이터셋은 번역 과정에서 문서 서식(document formatting)을 보존하는 것을 목표로 하는 기계 번역(machine translation) 시스템의 평가를 지원하도록 설계되었습니다. 우리는 데이터셋의 검증(validation) 서브셋을 통해 서식 보존 기계 번역(format-preserving machine translation)에 대한 가장 일반적인 접근 방식들을 비교하여 제공합니다. 이 검증 분할(validation split)은 평가 툴킷(evaluation toolkit)과 함께 추가 연구를 위해 공개적으로 출시됩니다. 별도로 분리된 테스트 분할(held-out test split)은 서식 보존을 포함한 문서 수준 번역(document-level translation)에 초점을 맞춘 향후 공유 과제(shared task)를 위해 예약될 예정입니다.