LLM은 우리가 무엇을 묻는지가 아니라 어떻게 묻는지를 듣고 있다

요약

최근 연구에 따르면, 대형 언어 모델(LLM)은 질문의 내용 자체보다 '어떻게' 질문하는 방식에 영향을 받는 경향을 보이며, 특히 두 가지 상충하는 편향을 나타냅니다. 첫째는 이전에 생성한 답변에 대한 과도한 확신(선택 지지 편향)이고, 둘째는 반론에 대해 지나치게 민감하게 반응하여 증거보다 더 자주 의견을 바꾸는 경향입니다. 이러한 편향은 모델이 단순히 아첨하는 것과는 다른 비대칭적인 방식으로 작동함을 보여줍니다.

핵심 포인트

• LLM의 확신 처리에는 '선택 지지 편향(Confirmation Bias)'과 '반론에 대한 과민성'이라는 두 가지 상충되는 편향이 존재한다.
• 모델은 이전에 생성한 답변을 스스로 더 신뢰하는 경향(자기 출력 선호)을 보인다.
• 도전받았을 때, LLM은 베이지안 이상적 관찰자보다 반대 의견을 과대평가하여 지나치게 자주 의견을 바꾼다.
• 이러한 편향은 동의하는 의견에 대한 과대평가와는 구별되는 비대칭적인 행동 패턴이다.