세밀한 척도로서의 예측 가능성 (Predictability)을 통한 프라이버시 측정

차분 프라이버시 (Differential privacy, DP)는 가장 지식이 해박한 공격자에게도 엄격한 개인 수준의 프라이버시 보장을 제공하지만, 그 최악의 경우 (worst-case)를 가정하는 특성으로 인해 비용이 많이 드는 프라이버시-정확도 트레이드오프 (privacy-accuracy tradeoff)를 초래할 수 있습니다. 본 논문에서는 공격자의 핵심 지식, 즉 확률적 과정 (stochastic process)에 의해 생성된 데이터셋의 유출된 부분과 지정된 쿼리 (query) 집합을 명시적으로 포함하는 세밀한 프레임워크인 '예측 가능성을 통한 프라이버시 (privacy via predictability)'를 소개합니다. 예측 가능성 (Predictability)은 알고리즘의 출력을 관찰한 후, 이미 유출된 데이터로부터 추론할 수 있는 수준을 넘어 미지의 개인에 대한 민감한 정보를 예측하는 공격자의 능력이 얼마나 증가했는지를 통해 프라이버시 유출을 측정합니다. 우리는 예측 가능성과 DP가 일반적으로 비교 불가능함을 보여줍니다. 즉, 하나가 작더라도 다른 하나는 클 수 있습니다. 그러나 단 한 명을 제외한 모든 개인이 유출되고 모든 이진 쿼리 (binary queries)가 민감한 것으로 간주되는 최악의 상황에서는, 예측 가능성이 상호 정보량 DP (mutual-information DP)를 함의합니다. 보다 일반적으로, 예측 가능성은 특정 민감한 정보와 특정 공격자 모델에 맞춤화된 더 세밀한 프라이버시 지표를 제공합니다. 우리는 유출된 데이터가 정상적 (stationary), 에르고딕 (ergodic), 혼합 (mixing) 과정에 의해 생성될 때 점근적 예측 가능성 (asymptotic predictability)을 분석하기 위해 일반화 적률법 (generalized method of moments, GMM)을 사용하는 일반적인 프레임워크를 도입합니다. 이 분석을 사용하여, 우리는 ERM을 위한 예측 가능성 보정 출력 섭동 (predictability-calibrated output perturbation) 기법을 도출합니다. 우리의 접근 방식은 DP를 보완하며, DP와 함께 사용하여 세밀한 프라이버시 제어를 제공할 수 있습니다.