논리적 일관성을 연결고리로: 응답과 자기 판단 간 라벨 제약 모델링을 통한 LLM 환각 탐지 개선

요약

본 논문은 대형 언어 모델(LLMs)의 환각 문제를 해결하기 위해 '논리적 일관성'을 연결고리로 활용하는 새로운 프레임워크인 LaaB를 제안합니다. 기존 방법들이 응답이나 자기 판단 중 한 측면에만 초점을 맞춘 것과 달리, LaaB는 응답(Response)과 메타-판단(Meta-Judgment) 라벨 간의 논리적 연결고리를 모델링하여 두 신호를 통합하고 상호 학습함으로써 환각 탐지 성능을 획기적으로 개선합니다.

핵심 포인트

• LLMs는 사실적 환각에 취약하며, 이는 실제 응용에서 큰 신뢰성 문제를 야기한다.
• 제안된 LaaB(Logical Consistency-as-a-Bridge) 프레임워크는 응답과 자기 판단 간의 논리적 일관성을 연결고리로 사용한다.
• LaaB는 '메타-판단' 프로세스를 도입하여 기호 라벨을 특징 공간으로 다시 매핑하고, 두 관점의 신호를 정렬 및 통합한다.
• 광범위한 실험 결과(4개 데이터셋, 8개 베이스라인)를 통해 LaaB가 기존 방법들보다 우수한 환각 탐지 성능을 입증했다.