CLIF: 투명한 Bottleneck 모델을 위한 개념 수준의 영향 함수 (Concept-Level Influence Functions)

요약

딥러닝 모델의 블랙박스 문제를 해결하기 위해 샘플 및 개념 수준에서 영향 함수를 활용하는 새로운 접근 방식인 CLIF를 제안합니다. 이 방식은 훈련 샘플의 레이블과 가중치를 조정하여 재학습 없이 모델 성능을 복구할 수 있으며, Concept Bottleneck Models(CBM) 내의 핵심 개념을 식별하여 모델의 의사 결정 과정을 투명하게 만듭니다.

핵심 포인트

• 샘플 및 개념 수준의 영향 함수를 통해 NLP 모델의 해석 가능성 향상
• 영향력 있는 훈련 샘플 식별을 통한 효율적인 데이터 디버깅 가능
• 재학습 없이 레이블 및 가중치 조정을 통해 모델 성능을 베이스라인 수준으로 복구
• Concept Bottleneck Models(CBM) 내 핵심 개념 식별을 통한 모델 동작의 관찰 가능성 확보