RECAST: 제한된 데이터 환경에서 반사실적 인지 Wasserstein 기하학을 통한 모델 재구성

반사실적 설명 (Counterfactual explanations, CFs)은 대안적인 모델 결과를 이끌어낼 수 있는 최소한의 입력 변화를 식별함으로써 머신러닝 모델을 이해하는 데 도움을 줍니다. 최근 연구들은 블랙박스 모델을 재구성하는 데 있어 CF의 유용성을 입증하였으며, 이를 통해 불투명한 의사결정 시스템의 공정성과 책임성에 대한 제3자 감사를 가능하게 합니다. 그럼에도 불구하고, CF 기반 재구성은 결정 경계 이동 (decision boundary shifts), 과적합 (overfitting), 그리고 대상 플랫폼에 대한 온라인 쿼리 접근 (online query access)을 요구하는 제한적인 가정들로 인해 어려움을 겪을 수 있습니다. 우리는 제한된 데이터와 제한된 접근 환경 하에서 Wasserstein barycentric 프로토타입을 기반으로 하는 행동 대리 모델인 REconstruction via Counterfactual-Aware waSserstein opTimization (RECAST)를 제안합니다. 우리의 접근 방식은 CF를 두 클래스 모두에 대해 대표성은 낮지만 정보가 풍부한 샘플로 통합함으로써 결정 경계 이동 문제를 해결하며, 재구성 과정 중 온라인 접근을 요구하지 않고도 적은 샘플 환경에서 높은 대리 모델 충실도 (surrogate fidelity)를 유지합니다. 공정성 감사를 강화하기 위해, 우리의 방법은 체계적인 그룹 공정성 진단을 가능하게 합니다. 실제 데이터셋과 다양한 설정에서의 실험을 통해, RECAST가 높은 충실도와 쿼리 효율성을 효과적으로 달성하며, 접근이 제한적이고 노이즈가 있는 상황에서도 안정적인 결과를 보여줌을 입증했습니다.