불확실성 시각화: 딥러닝에서의 누락된 증거 및 상충하는 증거의 공간 맵

딥 뉴럴 네트워크(Deep Neural Networks)가 언제, 왜 불확실해지는지를 이해하는 것은 안전이 중요한(safety-critical) 도메인에서 신뢰할 수 있는 머신러닝(Machine Learning) 시스템을 배포하는 데 매우 중요합니다. 기존의 불확실성 정량화(Uncertainty Quantification) 방법들은 모델 신뢰도에 대한 스칼라(Scalar) 측정값을 제공하지만, 입력의 어떤 공간적 영역이 서로 다른 유형의 불확실성에 기여하는지에 대해서는 제한적인 통찰만을 제공합니다. 우리는 증거 기반 딥러닝(Evidential Deep Learning, EDL)과 전체 그래디언트 클래스 활성화 맵(Full-Gradient Class Activation Mapping, FullGrad)을 결합하여 해석 가능한 공간적 불확실성 활성화 맵을 생성하는 새로운 시각화 프레임워크인 불확실성 활성화 맵(Uncertainty Activation Map, UAM)을 제안합니다. 우리의 접근 방식은 두 가지 근본적인 불확실성 유형을 구분합니다: 증거의 부족을 나타내는 공백(Vacuity), 그리고 경쟁하는 가설 간의 상충하는 증거를 포착하는 불협화음(Dissonance)입니다. FullGrad의 완전한 그래디언트 분해(Gradient Decomposition) 특성과 주관적 논리(Subjective Logic)의 원칙적인 불확실성 정량화를 활용함으로써, 우리의 방법은 모델 불확실성을 유발하는 특정 이미지 영역을 강조하는 이론적 근거가 있는 시각화를 생성합니다. 이 프레임워크를 통해 신념 가중치 할당(Belief-weighted Attributions)을 계산함으로써 공백 및 불협화음 활성화 맵이 생성되며, 이를 통해 모델이 지식이 부족한 지점과 모호한 증거에 직면한 지점을 식별할 수 있습니다. 여러 벤치마크 데이터셋에 대한 광범위한 평가는 제안된 프레임워크가 불확실성 정량화와 설명 가능성(Explainability) 사이의 결정적인 간극을 효과적으로 해결하며, 복잡한 시각 인식 작업에서 모델의 신뢰성을 평가하기 위한 직관적인 시각적 피드백을 제공함을 입증합니다.