RoSHAP: 안정적인 특성 기여도 산출을 위한 분포 기반 프레임워크 및 강건한 지표

특성 기여도 (Feature attribution) 분석은 머신러닝 (Machine learning) 모델을 해석하고 신뢰할 수 있는 데이터 기반 의사결정을 지원하는 데 매우 중요합니다. 그러나 특성 기여도 측정치는 종종 확률적 변동 (Stochastic variation)을 보입니다. 즉, 서로 다른 훈련-테스트 분할 (Train--test splits), 무작위 시드 (Random seeds), 또는 모델 적합 (Model-fitting) 절차에 따라 상당히 다른 기여도 값과 특성 순위가 생성될 수 있습니다. 본 논문은 특성 기여도의 확률적 특성을 통합하기 위한 프레임워크와, SHAP 지표를 기반으로 안정적인 특성 순위를 매기기 위한 강건한 기여도 지표인 RoSHAP을 제안합니다. 제안된 프레임워크는 특성 기여도 점수의 분포를 모델링하며, 부트스트랩 재표본 추출 (Bootstrap resampling)과 커널 밀도 추정 (Kernel density estimation)을 통해 이를 추정합니다. 우리는 완만한 정칙성 조건 (Mild regularity conditions) 하에서 집계된 특성 기여도 점수가 점근적으로 가우시안 (Asymptotically Gaussian) 분포를 따름을 보여주며, 이는 분포 추정의 계산 비용을 크게 줄여줍니다. RoSHAP은 SHAP의 분포를 활성 상태이고(active), 강력하며(strong), 안정적인(stable) 특성들에 동시에 보상을 주는 강건한 특성 순위 기준 (Robust feature-ranking criterion)으로 요약합니다. 시뮬레이션과 실제 데이터 실험을 통해, 제안된 프레임워크와 RoSHAP은 신호 특성 (Signal features)을 식별하는 데 있어 표준적인 단일 실행 (Single-run) 기여도 측정치보다 우수한 성능을 보입니다. 또한, RoSHAP으로 선택된 특성을 사용하여 구축된 모델은 훨씬 적은 예측 변수 (Predictors)를 사용하면서도 전체 특성 모델 (Full-feature models)에 필적하는 예측 성능을 달성합니다. 제안된 RoSHAP 접근 방식은 머신러닝 모델의 안정성과 해석 가능성 (Interpretability)을 향상시켜, 분석을 위한 신뢰할 수 있고 일관된 통찰력을 제공합니다.