합성 데이터에 대한 멤버십 추론 공격 (Membership Inference Attacks)을 활용한 반사실적 설명

반사실적 설명 (Counterfactuals)은 일반적으로 사용자 프로필의 변화가 어떻게 원하는 결과로 이어지는지를 보여줌으로써 머신러닝 (Machine Learning) 모델을 설명하는 고위험 결정 영역에서 사용됩니다. 그러나 반사실적 설명을 통해 모델의 결정을 설명하는 방식은 공격자가 모델이나 그 학습 데이터에 대해 프라이버시 공격을 수행하는 데 악용될 수 있습니다. 반사실적 설명이 합성 데이터 (Synthetic Data)와 유사하게 실제 학습 데이터의 현실적인 대체물을 제공한다는 비유를 바탕으로, 본 논문에서는 합성 데이터를 대상으로 개발된 공격 기법을 활용하여 반사실적 설명에 대한 프라이버시 공격을 성공적으로 수행할 수 있음을 입증합니다. 더 구체적으로, 우리는 다양한 유형의 반사실적 설명에 대해 합성 데이터용으로 설계된 멤버십 추론 공격 (Membership Inference Attacks)의 효과를 조사합니다. 또한, 기존의 반사실적 설명에 대한 멤버십 추론 공격은 대개 모델에 대한 쿼리 (Query) 권한이 필요하지만, 우리는 반사실적 설명이 생성된 모델에 접근할 수 없는 상태에서 오직 반사실적 설명 세트만을 사용하여 성공적인 멤버십 추론 공격을 수행하는 방법을 보여줍니다. 우리의 연구 결과는 모델 개발자가 다양한 사용자에게 반사실적 설명을 공개할 때 프라이버시 침해로 이어질 수 있으므로 더욱 주의를 기울여야 함을 입증합니다.