다양성에서의 탐지 가능성: 단일 실행 프라이버시 감사를 위한 개선된 카나리 제작 (Improved Canary Crafting)

프라이버시 감사 (Privacy auditing)는 멤버십 추론 공격 (Membership Inference Attacks, MIAs)을 사용하여 머신러닝 모델의 프라이버시 유출을 경험적으로 평가하고, 차분 프라이버시 (Differential Privacy, DP) 파라미터의 하한선을 도출하는 것을 목표로 합니다. 최근의 단일 실행 (one-run) 감사 방법들은 감사자가 포함 여부를 탐지해야 하는 여러 개의 "카나리 (canary)" 포인트를 포함한 단 한 번의 학습 실행에 의존함으로써 표준 방식의 높은 비용 문제를 해결합니다. 본 연구에서는 단일 실행 프라이버시 감사를 위해 카나리를 효율적으로 제작하는 문제를 연구합니다. 카나리 간의 간섭이 다중 실행 (multi-run) 방식에 비해 더 약한 유출 추정치를 초래한다는 최근의 이론적 통찰에 착안하여, 우리는 높은 탐지 가능성을 가지면서도 간섭을 최소화하도록 카나리를 최적화할 것을 제안합니다. 우리의 접근 방식은 영향 함수 (influence functions)에 기반한 탐욕적 초기화 (greedy initialization)와 임베딩 공간 (embedding space)에서의 다양성을 촉진하면서 식별 가능성 (distinguishability)을 극대화하는 이중 수준 최적화 (bilevel optimization) 절차를 결합하여, 계산 효율적인 이중 수준 알고리즘의 사용을 가능하게 합니다. 실험 결과, 우리의 방법은 기존의 카나리 제작 방식보다 낮은 계산 비용으로 더 강력한 프라이버시 유출 추정치를 달성함을 보여줍니다.