표현 수준의 발산(Representation-Level Divergence)을 통한 연합 학습(Federated Learning)에서의 비정형

연합 학습 (Federated Learning)은 이질적인 데이터를 가진 분산된 클라이언트 간의 협업 학습을 가능하게 하지만, 이러한 이질성은 종종 불안정한 업데이트와 전역 성능 (Global Performance) 저하를 초래합니다. 또한, 실제 배포 환경에서는 클라이언트의 업데이트가 양호한 비독립 동일 분포 (Non-i.i.d.) 분포 때문뿐만 아니라, 분포 변화 (Distributional Shifts) 또는 이상 입력 (Anomalous Inputs)으로 인해 예상되는 동작에서 벗어날 수 있으며, 이는 집계 (Aggregation) 과정의 신뢰성에 대한 우려를 불러일으킵니다. 본 연구에서는 전역 모델 (Global Model)에 대한 클라이언트의 기능적 편차 (Functional Deviation)를 정량화하기 위한 경량 기하학적 신호 (Lightweight Geometric Signal)를 제안합니다. 모델 파라미터 (Model Parameters)나 그래디언트 (Gradients)를 비교하는 대신, 우리의 접근 방식은 공유된 프로브 세트 (Probe Set)에서 평가하여 각 클라이언트의 로컬 학습이 입력 공간의 활성화 유도 분할 (Activation-induced Partition)을 어떻게 변화시키는지 측정합니다. 이는 모델에 의해 데이터가 처리되는 방식의 차이를 포착하며, 순열 불변 (Permutation-invariant)적이고 해석 가능한 클라이언트-전역 발산 (Client--Global Divergence) 지표를 생성합니다. 우리는 이 신호가 비정형적인 기능적 변화를 유도하는 클라이언트를 효과적으로 식별하며, 안정적이면서도 이질적인 클라이언트와 업데이트가 전역 체제 (Global Regime)에서 크게 벗어나는 클라이언트를 구분할 수 있음을 보여줍니다. 결과적으로, 제안된 지표는 연합 학습 시스템에서 클라이언트의 동작을 모니터링하고 위험 인지형 집계 (Risk-aware Aggregation) 전략을 가능하게 하는 간단한 도구를 제공합니다.