Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
딥러닝 모델의 설명 충실도를 객관적으로 평가하기 위해 설명 가능성-성능 계수(EPC)를 제안합니다. EPC는 특징 선택 희소성과 모델 성능 간의 트레이드오프를 정량화하며, 다양한 모달리티에서 인간의 판단과 높은 일치성을 보임을 입증했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기고위험 영역에서 딥러닝 (deep learning) 모델의 급격한 도입은 신뢰할 수 있는 설명 가능한 인공지능 (XAI, Explainable Artificial Intelligence)에 대한 필요성을 심화시켰습니다. 그러나 설명의 충실도 (fidelity)를 객관적으로 평가하고 XAI 지표를 인간 중심의 이해와 일치시키는 것은 여전히 중요한 미해결 과제로 남아 있습니다. 본 연구에서는 모델 불가지론적 (model-agnostic) 지표인 EPC 점수를 제안합니다. 이는 설명 가능성-성능 계수 (EPC, Explainability-Performance Coefficient)의 확장판으로, 특징 선택 희소성 (feature selection sparsity)과 보존된 모델 성능 (model performance) 사이의 트레이드오프 (trade-off)를 명시적으로 균형 있게 조절함으로써 설명 품질을 정량화합니다. 표 (tabular), 텍텍스트 (text), 이미지 (image) 모달리티 (modalities) 전반에 걸친 실증적 검증을 통해, 우리는 EPC 점수가 네트워크 활성화 (network activations), 데이터 차원 (data dimensionality), 그리고 설명기 성능 (explainer performance) 사이의 운영적 의존성을 효과적으로 밝혀낸다는 것을 보여줍니다. 나아가, 우리는 독립적인 인간 기반 설명과 EPC 점수를 비교 검증하여, 높은 EPC 점수가 인간의 어휘적 감성 판단 (lexical sentiment judgments) 및 공간적 시각 주석 (spatial visual annotations)과 강력하게 일치함을 입증합니다.