개념 기반 설명 가능성에서의 Zero-Shot 이미지 생성 평가를 위한 프레임워크

요약

본 연구는 개념 기반 설명 가능한 AI(XAI)의 확장성 문제를 해결하기 위해 Zero-shot 텍스트-이미지(T2I) 생성 모델을 활용하여 합성 개념 데이터셋을 생성하는 방법론을 제안합니다. 생성된 합성 데이터가 실제 개념을 얼마나 충실하게 반영하는지 네 가지 분석 지표를 통해 평가하며, T2I 모델을 활용한 데이터 생성의 잠재력과 동시에 직면한 과제들을 제시합니다.

핵심 포인트

• 개념 기반 XAI의 확장성을 높이기 위해 라벨링된 데이터 대신 Zero-shot T2I 생성 모델을 활용하는 방안을 조사함
• 합성 데이터의 충실도를 평가하기 위해 개념 표현 유사도, 내부 유사도, 다운스트림 작업 성능, 개념 제거 영향력 등 네 가지 분석 프레임워크를 제안함
• T2I 모델이 개념 기반 XAI를 위한 데이터 소스로서 유망하지만, 합성 데이터 사용 시 해결해야 할 미결 과제들이 존재함을 강조함
• 연구 결과물인 데이터셋은 GitHub을 통해 공개됨