사용자가 틀린 답을 고집할 때는 거부하지만, '검증된 출처'가 제시하면 같은 오답을 수용하는 LLM의 권위 편향(Authority Bias)
요약
본 논문은 LLM이 사용자의 잘못된 주장을 거부하는 반면, '검증된 출처'가 제시하면 같은 오답을 수용하는 현상을 발견하고 이를 권위 편향(Authority Bias)이라 명명했습니다. 이 현상은 AI 에이전트의 자율성이 높아지면서 도구 기반 정보에 과도하게 의존할 위험성을 보여주므로, 잘못된 출처에 대한 대비가 중요합니다.
핵심 포인트
- LLM은 사용자 주장보다 '검증된 출처'를 더 신뢰하는 경향을 보입니다.
- 이 현상을 권위 편향(Authority Bias)이라 명명하고 그 심각성을 지적했습니다.
- AI 에이전트의 자율성 증가에 따라 도구 기반 정보 오도 위험성이 커지고 있습니다.
- 잘못된 출처가 모델 답변에 미치는 영향을 정량적으로 측정했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Research의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기