Feature Association Map을 이용한 AI 설명 가능성을 위한 새로운 기술

요약

AI 시스템의 투명성과 신뢰성을 높이기 위해 특징 집합의 그래프 이론적 정식화를 활용한 새로운 XAI 알고리즘인 FAMeX를 제안합니다. FAMeX는 특징 간의 연관성을 기반으로 하는 Feature Association Map(FAM)을 모델링의 기초로 삼습니다. 실험 결과, FAMeX는 분류 작업에서 기존의 PFI 및 SHAP보다 우수한 특징 중요도 측정 성능을 보여주었습니다.

핵심 포인트

• 새로운 XAI 알고리즘인 FAMeX(Feature Association Map 기반 eXplainability) 제안
• Feature Association Map(FAM)을 통한 특징 간 연관성의 그래프 이론적 정식화 활용
• 기존의 PFI(Permutation Feature Importance) 및 SHAP(SHapley Additive exPlanations) 대비 우수한 성능 입증
• 8개의 벤치마크 알고리즘 실험을 통해 분류 맥락에서의 특징 중요도 측정 능력 검증