LLM의 문화적 편향성 분석: 왜 일본 문화에 집착하는가?

요약

본 연구는 대규모 언어 모델(LLMs)이 지닌 문화적 커버리지 및 지역 편향성 문제를 다룹니다. 기존 연구들이 주로 서구 중심의 시각을 분석하는 데 그쳤다면, 본 논문은 '문화 관련 개방형 질문 (CROQ)'이라는 새로운 데이터셋을 구축하여 LLM의 지역 선호도를 심층적으로 조사했습니다. 놀랍게도, LLMs는 특정 국가(특히 일본)에 대한 명확한 경향성을 보였습니다. 또한, 입력 언어가 영어와 같은 고자원어일 때 더 다양한 출력을 내보내며, 해당 언어가 공식 언어인 국가의 질문에는 답변하는 데 소극적임을 발견했습니다. 이 문화적 편

핵심 포인트

• LLMs는 '문화 관련 개방형 질문 (CROQ)' 기반 데이터셋을 통해 테스트했을 때 특정 지역(예: 일본)에 대한 명확한 선호 경향성을 보였습니다.
• 영어와 같은 고자원어(high-resource languages)로 프롬프팅할 경우, LLMs는 더 다양하고 균형 잡힌 출력을 제공하는 경향이 있었습니다.
• LLM의 문화적 편향성은 사전 학습(pre-training) 단계가 아닌, 지도 미세 조정(supervised fine-tuning) 이후에 명확히 나타나는 것으로 분석되었습니다.