랜덤성 효율적인 차분 프라이버시를 위한 디더링 가우시안 메커니즘
요약
본 논문은 디더링 가우시안 메커니즘(dithered Gaussian mechanism)을 제안합니다. 이는 기존 이산 가우시안 메커니즘의 대안으로, 사적인 출력 자체를 이산화하여 표준 가우시안 메커니즘의 프라이버시 보장을 유지하면서 유한 정밀도 부동 소수점 취약점을 회피합니다. 또한, 증명 가능한 랜덤성 효율성을 통해 필요한 난수 비트 수를 크게 줄여 성능과 보안을 동시에 확보했습니다.
핵심 포인트
- 디더링 가우시안 메커니즘은 이산화된 사적 출력을 사용해 프라이버시를 보장함.
- 표준 가우시안 메커니즘의 장점을 유지하며 부동 소수점 취약점을 회피함.
- 랜덤성을 두 소스로 분리하여 필요한 난수 비트 수를 획기적으로 줄임 (randomness-efficient).
- DP-SGD 등 실제 모델 훈련에 적용 가능함을 보여줌.
우리는 디더링 가우시안 메커니즘(dithered Gaussian mechanism)을 제시합니다. 이는 이산 가우시안 메커니즘(discrete Gaussian mechanism)의 새로운 대안으로, 노이즈 분포 자체를 이산화하는 대신 사적인 출력(private output)을 이산화합니다. 이러한 이산화를 가우시안 메커니즘의 후처리(post-processing)로 해석함으로써, 우리의 구성은 표준 가우시안 메커니즘의 프라이버시 보장(privacy guarantees)을 직접 계승하는 동시에 유한 정밀도 부동 소수점 출력으로 인해 발생하는 취약점을 피합니다. 우리는 이 메커니즘이 증명 가능한 랜덤성 효율적(provably randomness-efficient)임을 보여줍니다. 즉, 이산화된 출력 값들을 직접 샘플링함으로써 프라이버시를 위해 필요한 고품질 난수 비트의 수를 크게 줄이고 노이즈 수준과 독립적으로 만들 수 있습니다. 이는 랜덤성을 두 가지 소스로 분리하여 달성됩니다: 프라이버시가 중요한 샘플링 단계에 사용되는 고품질 소스, 그리고 무작위화된 이산화를 위해 필요한 추가적인 난수를 공급하는 적대자에게 알려져 있을 수도 있는 고성능 공개 소스입니다. 이러한 분리는 상당한 성능 손실 없이 암호학적으로 안전한 난수(cryptographically secure randomness)를 사용할 수 있게 합니다. 응용 사례로, 우리는 DP-SGD를 사용한 모델 훈련을 연구하고, 부동 소수점 취약점에 대한 노출이 줄어든 암호학적으로 안전한 노이즈 생성이 적당한 실질적 오버헤드로 달성될 수 있음을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기