정답지(Ground-Truth) 없이 정량화 가능한 시각적 설명 학습하기

요약

정답지(Ground-Truth)가 부족한 상황에서 설명 가능한 인공지능(XAI)의 품질을 정량적으로 평가할 수 있는 새로운 프레임워크를 제안합니다. 이 프레임워크는 정보의 충분성과 필요성을 기반으로 하며, 이를 미분 가능한 근사치로 활용해 모델의 의사 결정 과정을 인과적으로 설명하는 어댑터 모듈을 학습시킬 수 있습니다.

핵심 포인트

• 정답지 없이도 XAI 방법론의 품질을 정량화할 수 있는 새로운 지표 프레임워크 제안
• 모델 의사 결정에 기여하는 정보의 충분성(sufficiency)과 필요성(necessity)을 공식적으로 고려
• 지표의 미분 가능한 근사치를 감독 신호로 사용하여 블랙박스 모델용 인과적 설명 어댑터 학습 가능
• 기존 XAI 기술 대비 인간의 직관과 더 일치하며 우수한 정량적 성능 입증