Instruction-Tuned LLM의 디코딩 시간 진실성 방법론에 대한 통제된 연구

요약

본 논문은 CHAIR라는 지도 학습 프레임워크를 제안하며, 모든 토큰의 내부 로짓(logits)을 분석하여 환각(hallucinations)을 탐지합니다. 이 방법은 다양한 통계적 특징을 추출해 과적합 없이 효과적인 환각 탐지를 가능하게 하며, TruthfulQA 및 MMLU 데이터셋에서 높은 성능을 입증했습니다.

핵심 포인트

• CHAIR는 내부 로짓 분석 기반의 지도 학습 프레임워크입니다.
• 다양한 통계적 특징 추출로 과적합 없이 환각 탐지가 가능합니다.
• TruthfulQA 및 MMLU에서 제로샷 시나리오 성능이 입증되었습니다.
• 내부 표현 활용으로 고급 디코딩 전략 설계가 가능합니다.