표현 수준의 발산(Representation-Level Divergence)을 통한 연합 학습(Federated Learning)에서의 비정형

요약

연합 학습(Federated Learning) 환경에서 클라이언트 간 데이터 이질성으로 인한 성능 저하 문제를 해결하기 위한 새로운 연구를 소개합니다. 모델 파라미터 대신 공유된 프로브 세트를 활용해 입력 공간의 활성화 변화를 측정함으로써 클라이언트의 기능적 편차를 정량화하는 경량 기하학적 신호를 제안합니다.

핵심 포인트

• 데이터 이질성 및 분포 변화로 인한 연합 학습의 불안정성 해결
• 파라미터 대신 활성화 유도 분할을 통한 경량 기하학적 신호 제안
• 순열 불변적이고 해석 가능한 클라이언트-전역 발산 지표 생성
• 위험 인지형 집계 전략을 통한 안정적인 연합 학습 시스템 구축 가능