언제 LLM은 침묵해야 하는가? 선택적 위험 제어를 위한 자기 질문 체인(Chain-of-Self-Questioning)

요약

본 논문은 LLM이 사실적 근거가 부족할 때도 유창한 답변을 생성하는 문제를 해결하기 위해 '자기 질문 체인(CoSQ)' 프레임워크를 제안합니다. CoSQ는 답변 확정 시 필요한 정보에 대한 명시적인 평가를 조건화하며, Grounded-CoSQ 프로토콜은 오답 확정률을 크게 줄이고 답변 정확도를 높이는 효과를 입증했습니다.

핵심 포인트

• 자기 질문 체인(CoSQ)은 LLM의 근거 없는 답변 문제를 해결하는 프레임워크입니다.
• Grounded-CoSQ는 오답 확정률을 13.1%에서 8.9%로 줄여 성능을 개선했습니다.
• 이러한 자기 평가는 명시적이고 조정 가능한 '침묵' 결정까지 지원할 수 있음을 보여줍니다.