Feature Association Map을 이용한 AI 설명 가능성을 위한 새로운 기술
요약
AI 시스템의 투명성과 신뢰성을 높이기 위해 특징 집합의 그래프 이론적 정식화를 활용한 새로운 XAI 알고리즘인 FAMeX를 제안합니다. FAMeX는 특징 간의 연관성을 기반으로 하는 Feature Association Map(FAM)을 모델링의 기초로 삼습니다. 실험 결과, FAMeX는 분류 작업에서 기존의 PFI 및 SHAP보다 우수한 특징 중요도 측정 성능을 보여주었습니다.
핵심 포인트
- 새로운 XAI 알고리즘인 FAMeX(Feature Association Map 기반 eXplainability) 제안
- Feature Association Map(FAM)을 통한 특징 간 연관성의 그래프 이론적 정식화 활용
- 기존의 PFI(Permutation Feature Importance) 및 SHAP(SHapley Additive exPlanations) 대비 우수한 성능 입증
- 8개의 벤치마크 알고리즘 실험을 통해 분류 맥락에서의 특징 중요도 측정 능력 검증
AI 시스템의 투명성 부족은 중요한 실생활 응용 분야에서 어려움을 초래합니다. 시스템에 대한 신뢰를 보장하기 위해서는 AI 시스템의 결정을 설명할 수 있는 능력이 중요합니다. 설명 가능한 AI (XAI) 알고리즘은 이러한 목표를 달성하는 데 중요한 역할을 합니다. 본 논문에서는 AI 시스템을 설명하기 위한 새로운 알고리즘인 FAMeX (Feature Association Map 기반 eXplainability)를 제안합니다. 제안된 알고리즘은 Feature Association Map (FAM)이라고 불리는 특징 집합 (feature set)의 그래프 이론적 정식화 (graph-theoretic formulation)를 기반으로 합니다. 모델링의 기초는 특징 (features) 간의 연관성 (association)에 기반합니다. 제안된 FAMeX 알고리즘은 경쟁 관계에 있는 XAI 알고리즘인 Permutation Feature Importance (PFI) 및 SHapley Additive exPlanations (SHAP)보다 우수한 것으로 나타났습니다. 8개의 벤치마크 알고리즘을 통해 수행된 실험 결과, FAMeX는 분류 (classification) 맥락에서 경쟁 알고리즘보다 특징 중요도 (feature importance)를 더 잘 측정할 수 있음을 보여줍니다. 이는 FAMeX가 AI 시스템의 예측을 설명하는 데 있어 유망한 알고리즘임을 확실히 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기