체리피킹 오버라이드(Cherry-pick Override): 혼합된 증거 하에서 LLM 판사(LLM Judges)의 안전하지 않은 방향성 확약

요약

LLM 판사가 상충하는 증거가 존재할 때 비방향성 판결(CONFLICTING) 대신 편향된 방향성 판결을 내리는 '체리피킹 오버라이드(CCO)' 현상을 분석합니다. 연구팀은 기존 수정 방법론의 한계를 지적하며, 판결 생성과 확약을 분리하는 외부 확약 제어 계층을 제안합니다.

핵심 포인트

• LLM 판사는 혼합된 증거 상황에서 84% 이상의 높은 확률로 방향성 편향을 보임
• 다수결 투표 방식은 오히려 CCO로 인한 방향성 편향을 증폭시키는 경향이 있음
• 기존의 패널 집계나 신뢰도 기반 필터링은 CCO 문제를 완전히 해결하지 못함
• 판결 생성과 확약 승인을 분리하는 외부 확약 제어 계층 도입이 필요함