통계적 공개에 대한 멤버십 추론 (Membership Inference)의 베이지안 접근 방식

요약

본 연구는 공개된 통계치를 활용한 멤버십 추론 공격 시, 모집단의 속성 의존 구조를 반영하는 베이지안 접근 방식을 제안합니다. Bayesian Network를 통해 사전 정보를 통합함으로써 기존의 단순 분포 모델링보다 정교하고 효과적인 공격 프레임워크를 구축했습니다.

핵심 포인트

모집단의 속성 의존 구조를 반영한 베이지안 네트워크 모델링 제안
사전 정보를 활용한 베이지안 의사결정 기반 공격 프레임워크 개발
Roulette 확률적 프로그래밍 언어를 이용한 구현 및 검증
복잡한 의존 구조에서 기존 우도비 검정 및 내적 공격보다 우수한 성능 입증

비공개 데이터셋에서 공개된 통계치에 대한 멤버십 추론 (Membership Inference) 문제는 이미 활발히 연구되어 왔습니다. 그러나 공격 전략을 개발하고 공식적으로 분석할 때, 기존의 초점은 오직 주변 분포 (Marginals)만을 사용하여 모집단을 모델링하는 공격에 맞춰져 있었습니다. 실제로 이러한 공격들은 다양한 모집단에서 잘 작동할 수 있지만, 대부분의 공식적인 분석은 곱 분포 (Product Distribution)를 따르는 모집단을 대상으로 합니다. 이러한 전략들은 현실적인 프라이버시 위협을 이해하는 데 중요한 모집단에 대한 유용한 정보를 활용하지 못할 수 있습니다. 본 연구에서는 여러 당사자가 유사한 구조의 데이터에 접근할 수 있는 사례(예: 미국 인구조사국과 국세청(IRS))에서 영감을 얻어, 공격자에게 모집단의 속성 의존 구조 (Attribute Dependency Structure)에 대한 추가 정보를 제공하는 것이 미치는 영향을 탐구합니다. 이 시나리오를 모델링하기 위해, 우리는 베이지안 네트워크 (Bayesian Network, BN)로 표현된 모집단에 대하여 멤버십 추론 문제를 재정의합니다. 우리는 모집단에 대한 사전 정보 (Prior Information)를 통합하여 더욱 효과적이고 특화된 공격을 수행할 수 있는 베이지안 의사결정 (Bayesian Decision-making) 기반의 프레임워크를 개발합니다. 우리의 프레임워크를 평가하기 위해, 확률적 프로그래밍 (Probabilistic Program)을 사용하여 베이지안 사후 확률 (Bayesian Posterior)을 계산하는 구체적인 공격 인스턴스화를 도입하며, 이것이 강한 속성 의존성을 가진 두 모집단에 대한 우도비 검정 (Likelihood Ratio Test) 공격의 최적 변형과 동일함을 증명합니다. 우리는 이 프로그램을 Roulette 확률적 프로그래밍 언어 (Probabilistic Programming Language)로 구현하였으며, 기존의 공격 방식으로는 수동으로 적응시키기에 모집단 의존 구조가 너무 복잡한 5개의 흔히 사용되는 BN에 대해, 본 방식이 우도비 검정 (Likelihood Ratio Test) 및 내적 (Inner Product) 공격보다 성능이 뛰어남을 실험적으로 보여줍니다.

AI 자동 생성 콘텐츠

원문 바로가기

통계적 공개에 대한 멤버십 추론 (Membership Inference)의 베이지안 접근 방식

요약

핵심 포인트

댓글