Google, AI가 실제로 '데이터를 망각'했는지 확인하는 새로운 방법 발표

Google이 AI가 실제로 "데이터를 망각"했는지 확인할 수 있는 새로운 접근 방식을 발표했습니다.

인공지능 (AI)이 점점 더 방대한 양의 데이터에 사용됨에 따라, 데이터 소유자가 자신의 데이터를 AI 모델에서 삭제하거나 "망각"하기를 원할 경우, 시스템이 실제로 해당 데이터를 삭제했음을 어떻게 증명할 수 있는가라는 중요한 질문이 제기되고 있습니다. 이 문제는 개인정보 보호법, AI 안전성, 그리고 현대 인공지능 시스템의 신뢰성 측면에서 중요한 쟁점이 되고 있습니다.

머신 언러닝 (Machine Unlearning)이라고 불리는 개념은 비용이 매우 많이 드는 전체 모델 재학습 과정 없이도, AI 모델이 이전에 학습한 지식에서 특정 데이터의 영향력을 삭제할 수 있도록 개발되었습니다. 그러나 과제는 단순히 데이터를 삭제하는 것에 그치지 않고, 해당 데이터가 더 이상 모델의 행동에 남아있지 않음을 증명하는 데 있습니다.

그동안 연구자들은 데이터를 망각해야 하는 모델과 참조 모델 간의 결과를 비교하기 위해 이표본 검정 (Two-Sample Testing)이라고 불리는 통계적 방법을 주로 사용해 왔습니다. 만약 결과가 통계적으로 유의미한 차이를 보인다면 데이터 삭제가 성공하지 못했다고 결론 내릴 수 있습니다. 하지만 이 방식에는 중요한 한계가 있습니다. 동일한 데이터 세트로 재학습된 AI 모델이라도 미니 배치 (mini-batch) 크기나 초기값의 무작위성과 같은 미세한 학습 요인으로 인해 결과가 달라질 수 있기 때문입니다. 이는 실제로는 안전함에도 불구하고 모델에 문제가 있다는 잘못된 경고를 유발할 수 있습니다.

이러한 한계를 해결하기 위해 Google Research는 AISTATS 2026에서 발표된 Regularized f-Divergence Kernel Tests라는 새로운 검증 프레임워크를 개발했습니다. 이 방식은 단순히 두 개의 모델을 비교하는 개념에서 벗어나, 세 가지 모델 간의 유사성을 비교하는 방식으로 전환했습니다. 즉, 데이터가 포함된 원본 모델, 삭제 대상 데이터 없이 재학습된 모델, 그리고 데이터 삭제 프로세스를 거친 모델을 비교합니다. 이 접근 방식은 데이터 삭제 후의 모델이 안전한 모델과 유사한 행동을 보이는지, 아니면 여전히 데이터를 기억하고 있는 기존 모델과 유사한지를 더 정확하게 답변할 수 있게 해줍니다.

이 새로운 프레임워크의 핵심은 f-Divergence 그룹의 통계적 측정치를 사용하는 것입니다. 이는 광범위한 차이, 특정 지점의 이상 징후, 그리고 개인정보 유출을 반영할 수 있는 미세한 흔적 등 다양한 형태의 데이터 분포 차이를 감지할 수 있습니다. 또한, 이 시스템은 가장 적합한 검사 방법을 자동으로 선택할 수 있어, 연구자가 복잡한 파라미터 (Parameter)를 직접 조정해야 하는 부담을 줄여줍니다.

실험 결과에 따르면, 이 새로운 접근 방식은 기존 방식보다 훨씬 적은 양의 데이터 샘플만으로도 개인정보 침해를 감지할 수 있음을 보여주었습니다. 어떤 경우에는 단 몇 천 개의 샘플만으로도 문제를 발견할 수 있었던 반면, 기존 도구는 유사한 결과를 얻기 위해 수백만 개의 샘플이 필요할 수도 있었습니다. 게다가 표준적인 방식으로는 포착할 수 없는 특정 유형의 이상 징후도 탐지할 수 있었습니다.

흥미로운 점은 연구 결과가 현재 널리 사용되는 여러 형태의 머신 언러닝 (Machine Unlearning) 알고리즘—모델 추가 미세 조정 (Fine-tuning), 파라미터 가지치기 (Pruning), 또는 특정 부분의 학습 가중치 감소 기술 등—이 엄격한 정의에 따른 완전한 데이터 망각을 아직 달성하지 못했음을 시사한다는 것입니다. 오직 특정 방식들만이 평가 기준을 성공적으로 통과할 수 있었습니다.

따라서 이 연구는 단순히 더 정확한 측정 도구를 개발한 것에 그치지 않고, 모델 간의 유사성이나 차이점을 비교하는 데 집중했던 기존의 관점에서 벗어나, 시스템이 보안 표준에 얼마나 근접한 행동을 보이는지를 평가하는 방향으로 AI 업계의 '데이터 망각'에 대한 관점을 전환하는 데 기여합니다. 향후 개인정보 보호법이 강화되고 AI의 투명성에 대한 사회적 요구가 높아짐에 따라, 이러한 기술은 AI가 사용자의 권리를 진정으로 보호할 수 있음을 보장하는 중요한 토대가 될 것입니다.

출처: https://t.co/5RmFEez6dq
추가 정보: https://t.co/WnGi8T1ss7
연구 논문: https://t.co/euChcMF6yW
[IMG:1]