본문으로 건너뛰기

© 2026 Molayo

arXiv논문2026. 05. 01. 16:26

개인정보 보호를 위한 개인화 연동 미세 조정에서 소음 유발 프로토타입 열화를 제어하기

요약

본 논문은 개인정보 보호를 유지하면서 여러 도메인에 걸쳐 모델을 적응시키는 ProtoPFL(프로토타입 기반 개인화 연동 학습)의 프라이버시 문제를 해결하기 위해 VPDR이라는 클라이언트 측 플러그인을 제안합니다. 기존 방식이 모든 차원에 균일한 소음을 추가하여 판별적 정보를 과도하게 손상시키는 단점을 보완하고자, 본 연구는 '분산 적응형 프로토타입 교란(VPP)'을 도입했습니다. VPP는 데이터의 판별성을 반영하는 부분 공간에는 적은 노이즈를 할당하고, 의미론적 분리 가능성은 유지하면서 프라이버시를 확보하여 우수한 성능과 개인정보 보호 균형을 달성합니다.

핵심 포인트

  • ProtoPFL은 효율적인 다도메인 적응을 가능하게 하지만, 프로토타입 공유 시 프라이버시 위험이 존재한다.
  • 기존의 등방성 가우시안 교란(IGPP) 방식은 판별적 차원을 과도하게 교란시키는 문제가 있다.
  • 제안된 VPDR 플러그인은 '분산 적응형 프로토타입 교란(VPP)'을 통해 판별성을 반영하는 부분 공간에만 최소한의 노이즈를 할당한다.
  • VPDR은 예측 일관성을 유지하기 위해 '디스틸레이션 유도 클리핑 정규화(DCR)' 기법을 추가하여 성능 저하를 방지했다.
  • 실험 결과, VPDR은 기존 방식 대비 우수한 프라이버시-유틸리티 트레이드오프와 강건성을 입증하며 IGPP를 능가한다.

프로토타입 기반 개인화 연동 학습 (ProtoPFL) 은 컴팩트한 클래스 프로토타입을 통신함으로써 효율적인 다도메인 적응을 가능하게 하지만, 이를 직접 공유하는 것은 프라이버시 위험을 초래합니다. 일반적인 방어 기법은 민감도를 제한하기 위해 프로토타입 계산 전 예제당 ℓ2 클리핑을 수행한 후, 로컬 미분 프라이버시 (LDP) 를 강제하기 위해 등방성 가우시안 소음을 추가하는 방식입니다. 그러나 등방성 가우시안 프로토타입 교란 (IGPP) 은 일반적으로 판별적 차원을 과도하게 교란시키며, 클리핑 임계값과 표현 충실도 간의 균형을 맞추는 데 어려움을 겪습니다. 본 논문에서는 기존 ProtoPFL 에 원활하게 통합될 수 있는 클라이언트 측 프라이버시 플러그인인 VPDR 을 제안합니다. 차원별 클래스 분산이 판별성을 반영한다는 관찰에 착안하여, 판별적 부분공간에는 적은 소음을 할당하고 의미론적 분리 가능성을 유지하면서 프라이버시를 보장하는 '분산 적응형 프로토타입 교란 (VPP)'을 도입했습니다. 또한 특징 노름이 사전 정의된 클리핑 임계값 근처에서 적응적으로 집중되도록 하면서 예측 일관성을 유지할 수 있도록 하는 '디스틸레이션 유도 클리핑 정규화 (DCR)'를 개발했습니다. 이론적 분석에 따르면, 우리의 그룹별 메커니즘은 동일한 프라이버시 제약 하에서 등방성 베이스라인보다 더 약하거나 동등한 프라이버시 보장을 제공합니다. 다도메인 벤치마크에 대한 광범위한 실험 결과, VPDR 은 개인화 연동 미세 조정에서 우수한 프라이버시 - 유틸리티 트레이드오프를 달성하며, 현실적인 공격에 대한 강건성을 손상시키지 않으면서 IGPP 를 능가함을 입증했습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
2

댓글

0