ConceptSMILE: 개념 기반 설명 가능한 AI의 신뢰성 감사
요약
본 논문은 개념 기반 설명 가능한 AI(XAI)의 신뢰성 감사를 위한 모델 비종속적 프레임워크인 ConceptSMILE을 제안합니다. 이 프레임워크는 입력 영역 교란과 개념 반응 변화 측정을 통해 기여도 정확도를 평가하며, XGBoost 서로게이트를 사용하여 지역적 개념 행동을 근사화합니다. MedSAM 및 VLM 기반의 시각/의미론적 개념에 적용한 결과, 각 방식마다 신뢰성 특성이 다름을 입증했습니다.
핵심 포인트
- ConceptSMILE은 개념 기반 XAI의 모델 비종속적 감사 프레임워크입니다.
- 입력 교란 및 개념 반응 변화 측정을 통해 신뢰성을 평가합니다.
- MedSAM은 높은 공간적 기여도와 서로게이트 충실도를 보였습니다.
- VLM 경로는 혈관 충실성과 안정성에서 강점을 나타냈습니다.
개념 기반 설명 가능한 인공지능(AI)은 모델 추론을 인간이 이해하기 더 쉽게 만들 수 있지만, 개념 수준의 출력물 자체가 자동으로 신뢰할 수는 없습니다. 우리는 개념 기반 설명을 평가하기 위한 모델 비종속적(model-agnostic) 교란 기반 감사 프레임워크인 ConceptSMILE을 소개합니다. ConceptSMILE은 SMILE을 대체하는 대신, 그 교란 기반 논리를 특징 또는 영역 수준의 기여도(attribution)에서 인간이 이해할 수 있는 개념 설명의 감사를 확장합니다. 이 프레임워크는 입력 영역을 교란하고, 개념 반응 변화를 측정하며, 국소 가중치(locality weighting)를 적용하고, 지역적 개념 행동을 근사화하기 위해 XGBoost 서로게이트(surrogate) 모델을 적합시킵니다. 신뢰성은 기여도 정확도(attribution accuracy), 서로게이트 충실도(surrogate fidelity), 충실성(faithfulness), 안정성(stability), 그리고 일관성(consistency)을 통해 평가됩니다. 우리는 MedSAM에서 파생된 시각적 개념과 VLM 기반의 의미론적 개념을 비교하여 망막 안저 이미지에 ConceptSMILE을 평가합니다. 그 결과, 신뢰성은 개념과 경로에 따라 다름을 보여줍니다: MedSAM은 더 강력한 공간적 기여도와 가장 높은 서로게이트 충실도($R^2 = 0.8503$, $R_w^2 = 0.8465$)를 달성하는 반면, VLM 경로는 더 강력한 혈관 충실성과 선택된 인공물 조건 하에서 더 강력한 안정성을 보여줍니다. ConceptSMILE은 개념 기반 XAI의 신뢰성을 평가하기 위한 독립적인 감사 계층을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기