한 단어 인구 조사: 44개 언어 모델의 답변 선택 일치도 분석
요약
본 연구는 언어 모델이 주어진 선택지들 중 하나의 답을 골라야 할 때, 모델들이 어떤 단어를 선호하고 얼마나 일치하는지를 분석했습니다. 44개 모델에게 '아무 단어로도' 질문했을 때, 상당수의 모델이 'serendipity'를 선택하는 수렴 현상을 발견했습니다.
핵심 포인트
- 언어 모델의 답변 선택에 대한 수렴 현상(Convergence)을 분석함.
- 44개 언어 모델 중 41%가 특정 단어('serendipity')를 선택함.
- 최소한의 도구를 사용하여 여러 유효한 한 단어 답변 요구 시 패턴을 분석함.
언어 모델이 크고 동등하게 유효한 옵션들 중에서 하나의 답을 골라야 할 때, 어떤 것을 고르는지—그리고 다른 모든 모델들이 같은 답을 얼마나 자주 고르는지 궁금했습니다. '단어 하나를 골라보세요—아무 단어로도'라는 질문에 44개 모델은 41%의 확률로 'serendipity'를 선택했습니다. 우리는 이 수렴 현상을 의도적으로 최소한의 도구로 분석합니다: 여러 개의 유효한 한 단어 답변을 요구하는 카테고리(
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기