AUC가 오도할 때: 도메인 변화(Domain Shift) 하에서의 딥페이크 탐지기에 대한 양극화 인지 평가

확산 모델(Diffusion Models) 및 얼굴 교체(Face-swapping) 도구와 같은 생성형 AI(Generative AI)의 최근 발전은 매우 사실적인 딥페이크(Deepfakes) 생성을 가능하게 했으며, 이는 금융 사기 및 비동의 성적 콘텐츠를 포함한 실질적인 피해로 이어지고 있습니다. 이에 대응하여 딥페이크 탐지(Deepfake detection)는 활발한 연구 분야가 되었으며, 최근 방법론들은 보지 못한 조작(Unseen manipulations)에 대한 일반화(Generalization) 성능을 개선하는 데 점점 더 집중하고 있습니다. 이는 일반적으로 여러 데이터셋에 걸쳐 별도로 측정된 ROC 곡선 아래 면적(AUC, Area Under the ROC Curve)을 사용하여 평가됩니다. 그러나 이러한 평가는 탐지기가 다양한 데이터 소스와 변화하는 아티팩트(Artifact) 유형이 혼합된 상황에 직면하는 실제 시나리오를 반영하지 못합니다. 이러한 한계를 해결하기 위해, 우리는 도메인 변화(Domain shift)에 대한 강건성(Robustness)을 고려하기 위해 예측 양극화(Prediction polarization) 측정값과 도메인별 AUC를 평균하는 새로운 지표인 교차 데이터셋 AUC(Cross-dataset AUC, Cross-AUC)를 도입합니다. 양극화 정도는 클래스 점수 분포(Class score distributions) 간의 와서스테인 거리(Wasserstein Distance)로 정량화됩니다. Cross-AUC는 도메인 변화 하에서 딥페이크 탐지기의 일반화 능력을 더욱 현실적으로 평가할 뿐만 아니라, 성능 저하의 원인을 더 잘 설명할 수 있어 해석 가능성(Interpretable)도 높습니다. 7개의 벤치마크 데이터셋을 대상으로 수행된 실험은 이 지표의 실질적인 관련성을 입증합니다.