Spectral Model eXplainer: 화학 기반 설명 가능성 프레임워크를 위한 스펙트럼 기반 머신러닝 모델

스펙트럼 기반 머신러닝 모델은 계량학 (chemometrics) 과 분광학 (spectroscopy) 분야에서 예측 정확도와 함께 설명 가능성 (explainability) 이 중요하게 여겨지면서 점차 배포되고 있습니다. 현재 사용 중인 설명 가능한 인공지능 (XAI: Explainable Artificial Intelligence) 방법들은 표적 데이터나 일반 다변수 (multivariate) 도메인에서 유래하여, 화학적으로 의미 있는 스펙트럼 영역 (spectral zones) 이 아닌 고립된 스펙트럼 변수에 대한 관련성 (relevance) 을 할당하는 경향이 있습니다. SHapley Additive exPlanations (SHAP), Permutation Feature Importance (PFI), 그리고 Variable Importance in Projection scores (VIP) 와 같은 널리 채택된 도구들은 스펙트럼 데이터의 물리적 연속성 (physical continuity) 과 높은 다중공선성 (high collinearity) 을 고려하여 설계되지 않았으며, 변수 수준 (variable-level) 의 출력은 영역 수준 (zone-level) 정보를 복원하기 위해 사후적 집계 (post-hoc aggregation) 가 필요합니다. 본 연구는 스펙트럼 분류기를 전문가가 제시한 스펙트럼 영역을 통해 설명하는 후발적 (post-hoc), 전역적 (global), 모델 무관 (model-agnostic) XAI 프레임워크인 Spectral Model eXplainer (SMX) 을 소개합니다. SMX 는 각 영역을 주성분 분석 (PCA: Principal Component Analysis) 을 통해 요약하고, 양자 기반 논리적 전제 조건 (quantile-based logical predicates) 을 정의하며, 확률적 부분집합 (stochastic subsamples) 에서의 섭동 (perturbation) 을 통해 전제 조건 관련성을 추정하고, 로컬 도달 중심성 (Local Reaching Centrality) 으로 요약된 방향적 가중치 그래프 (directed weighted graph) 를 통해 배그 (bag) 간 순위 (rankings) 를 집계합니다. 핵심 구성 요소는 임계 스펙트럼 재구성 (threshold spectrum reconstruction) 으로, 자연스러운 측정 단위 (natural measurement units) 의 원래 스펙트럼 도메인으로 논리적 전제 조건 경계를 역추적하여 측정된 스펙트럼과 직접적인 시각적 비교를 가능하게 합니다. 본 방법은 8 개의 실제 스펙트럼 데이터셋 (6 개는 X-ray Fluorescence--XRF 기반, 2 개는 Gamma-ray Spectrometry 기반) 과 알려진 그래프 (gr) 를 가진 하나의 합성 벤치마크에서 평가되었습니다.