단계별 신뢰도 귀속 (Stepwise Confidence Attribution)을 통한 블랙박스 LLM의 다단계 추론 실패 진단

요약

본 논문은 블랙박스 LLM의 다단계 추론 과정 중 어느 단계에서 오류가 발생하는지 진단하기 위한 '단계별 신뢰도 귀속(SCA)' 프레임워크를 제안합니다. 정보 병목(Information Bottleneck) 원칙을 활용하여 추론 단계별 신뢰도를 할당하며, 비매개변수적 방식인 NIBS와 그래프 기반 방식인 GIBS를 통해 오류 지점을 식별합니다. 실험 결과, SCA를 활용한 자기 수정 방식이 기존 답변 수준의 피드백보다 수정 성공률을 최대 13.5% 향상시킴을 입증했습니다.

핵심 포인트

• 폐쇄형(closed-source) LLM에서도 내부 접근 권한 없이 추론 과정만으로 단계별 신뢰도 측정 가능
• 정보 병목(Information Bottleneck) 원칙을 적용하여 정답 간의 합의 구조와 일치하는 단계에 높은 신뢰도 부여
• 비매개변수적 접근 방식(NIBS)과 그래프 기반 학습 모델(GIBS)이라는 두 가지 상호 보완적 방법론 제시
• 단계별 신뢰도를 활용한 자기 수정(self-correction) 시 기존 방식 대비 수정 성공률 최대 13.5% 향상