E-TCAV: 효율적인 개념 기반 해석 가능성을 위한 마지막 근사치 공식화

요약

E-TCAV는 기존의 해석 가능성 방법인 TCAV(Testing with Concept Activation Vectors)가 가진 계산 오버헤드, 레이어 간 불일치, 통계적 불안정성 등의 문제를 해결하기 위해 제안된 효율적인 근사화 프레임워크입니다. 이 연구는 잠재 분류기의 안정성 영향 분석, 레이어 간 일치성 검증, 그리고 마지막 근사치를 초기 레이어의 빠른 대리 변수로 활용하는 세 가지 핵심 측면을 기반으로 합니다. E-TCAV를 통해 네트워크 크기와 샘플 수에 대해 선형적으로 확장되는 속도 향상을 달성하여, 모델 디버깅 및 실시간 개념 기반 훈련에 기여합니다.

핵심 포인트

• E-TCAV는 TCAV의 계산 효율성과 안정성을 개선한 근사화 프레임워크이다.
• 연구는 잠재 분류기의 선택이 TCAV 점수의 분산에 영향을 미칠 수 있음을 보여준다.
• 신경망의 최종 블록 레이어는 마지막 근사치 레이어와 높은 일치성을 보인다.
• E-TCAV를 사용하면 네트워크 크기 및 평가 샘플 수에 대해 선형적으로 확장되는 속도 향상을 얻을 수 있다.