REFLECT할 시간: 증거 기반 연구 에이전트를 위한 LLM 판사(LLM Judges)를 신뢰할 수 있는가?

요약

심층 연구 에이전트의 성능을 평가하기 위해 LLM을 판사로 사용하는 'LLM-as-judge' 방식의 신뢰성을 검증하는 연구를 소개합니다. 연구진은 통제된 개입을 통해 세밀한 실패 탐지를 수행하는 메타 평가 벤치마크인 REFLECT를 제안하였으며, 실험 결과 현재의 LLM 판사들이 증거 검증 등 주요 지표에서 매우 낮은 정확도를 보임을 밝혀냈습니다.

핵심 포인트

• 심층 연구 에이전트 평가를 위한 LLM-as-judge 방식의 신뢰성 문제 제기
• 세밀한 실패 탐지를 위한 메타 평가 벤치마크 REFLECT 제안
• 통제된 국소적 개입을 통해 과정 및 결과 수준의 실패 모드 분류 체계 정의
• 현재 최고 성능의 LLM 판사도 전체 정확도가 55% 미만이며, 특히 증거 검증 능력이 매우 부족함