ConceptSMILE: 개념 기반 설명 가능한 AI의 신뢰성 감사

요약

본 논문은 개념 기반 설명 가능한 AI(XAI)의 신뢰성 감사를 위한 모델 비종속적 프레임워크인 ConceptSMILE을 제안합니다. 이 프레임워크는 입력 영역 교란과 개념 반응 변화 측정을 통해 기여도 정확도를 평가하며, XGBoost 서로게이트를 사용하여 지역적 개념 행동을 근사화합니다. MedSAM 및 VLM 기반의 시각/의미론적 개념에 적용한 결과, 각 방식마다 신뢰성 특성이 다름을 입증했습니다.

핵심 포인트

• ConceptSMILE은 개념 기반 XAI의 모델 비종속적 감사 프레임워크입니다.
• 입력 교란 및 개념 반응 변화 측정을 통해 신뢰성을 평가합니다.
• MedSAM은 높은 공간적 기여도와 서로게이트 충실도를 보였습니다.
• VLM 경로는 혈관 충실성과 안정성에서 강점을 나타냈습니다.