독일어 LLM: 반복이 다양성보다 우수함

요약

독일어 LLM 개발에서, 다양한 소음이 많은 웹 코퍼스보다 반복적이고 고품질의 학습 데이터가 더 효과적인 것으로 나타났습니다. 특히 Boldt 모델은 적은 양의 토큰만으로도 경쟁 모델 대비 최상위 성능을 달성하며 효율성을 입증했습니다.

핵심 포인트

• 독일어 LLM 성능 향상에 있어, 데이터의 '반복적 고품질'이 '다양한 소음 웹 코퍼스'보다 우월하다.
• Boldt 모델은 적은 토큰(10~360배 적게)으로도 최고 수준의 성능을 달성하는 높은 효율성을 보여준다.