양자 어닐링 기반 특징 선택을 통한 해석 가능한 AI 로우딩

딥러닝 모델은 실수 시 심각한 결과를 초래할 수 있는 중요한 분야에서 활용됩니다. 따라서 모델이 예측을 생성하는 방식과 이유를 이해하는 것이 필수적입니다. 이러한 이해는 모델이 올바른 패턴을 학습하고 있는지 확인하고, 데이터 내 편향을 탐지하며, 모델 설계를 개선하고 신뢰할 수 있는 시스템을 구축하는 데 유용한 정보를 제공합니다. 본 연구는 이미지 분류 작업에서 합성곱 신경망 (Convolutional Neural Networks) 을 해석하기 위한 새로운 방법을 제안합니다. 이 접근법은 각 예측에 기여하는 가장 중요한 특징 맵 (feature maps) 을 선택함으로써 작동합니다. 이 조합 최적화 문제를 해결하기 위해 이를 양자 제약 최적화 문제로 인코딩하고, 양자 어닐링 (quantum annealing) 을 사용하여 해결할 것을 제안합니다. 우리는 제안한 방법을 최신 설명 가능한 AI (Explainable AI) 기법인 GradCAM 과 GradCAM++ 와 비교 평가하였으며, 개선된 클래스 분리 (class disentanglement) 를 관찰했습니다. 즉, 모델의 결정 경계 (decision boundaries) 가 더 명확해지고 추론이 더 투명해졌습니다. 이는 우리의 접근법이 설명의 품질을 향상시켜, 모델이 특정 예측에 의존하는 특징을 이해하기 쉽게 만든다는 것을 보여줍니다. 또한, 양자 어닐링 알고리즘의 계산 행동을 연구했습니다. 구체적으로, 계산 과정 중 시스템의 최소 에너지 갭 (minimum energy gap) 과 알고리즘이 올바른 해를 찾을 확률을 분석했습니다. 이러한 분석은 실제 적용에서该方法가 효과적으로 작동하는 이유에 대한 통찰력을 제공합니다.