사용자 수준 차분 프라이버시 기반 최적 비잔틴 복원 연합 학습

요약

본 논문은 연합 학습(FL)에 필요한 비잔틴 복원력과 사용자 수준 차분 프라이버시를 결합하는 문제를 다룹니다. 연구진은 클라이언트 및 서버 측 모멘텀을 특징으로 하는 중앙 DP 알고리즘 ByzULDP를 제안했습니다. 이 방법론은 정보 이론적 하한을 확립하고, 다양한 목적 함수에 대해 최적의 수렴 속도를 보장합니다.

핵심 포인트

• 사용자 수준 DP 기반 비잔틴 복원 FL의 미해결 minimax 최적화 문제를 다룸.
• 클라이언트 및 서버 전반에 걸쳐 두 단계 모멘텀을 가진 ByzULDP 알고리즘 제안.
• 사용자 수준 DP 특성을 활용하여 수렴력을 강화하는 서버 측 모멘텀이 핵심 기여임.
• 강하게 볼록한 목적 함수에서 최적의 O(1/T) 및 O(1/√T) 오차 감소율을 달성함.