새로움(Novelty)으로부터의 협업 발견: 클러스터형 연합 학습을 위한 Random Network Distillation

연합 학습 (Federated Learning)은 데이터가 독립적이고 동일하게 분포되지 않은 (non-independently and identically distributed, non-IID) 상황에서 종종 어려움을 겪으며, 이 경우 단일 글로벌 모델이 클라이언트 분포의 다양성을 나타내는 데 실패할 수 있습니다. 클러스터형 연합 학습 (Clustered Federated Learning)은 유사한 클라이언트 그룹을 위해 특화된 모델을 학습시킴으로써 이 문제를 완화하지만, 기존 방식들은 클러스터 할당을 메인 학습 루프와 결합하는 경우가 많아 계산 및 통신 비용을 증가시킵니다. 우리는 Random Network Distillation (RND)에 기반한 경량 클러스터링 접근 방식을 제안합니다. 각 클라이언트는 자신의 로컬 데이터에 대해 컴팩트한 Random Network Distillation 예측기를 학습시키고, 예측 오차를 새로움 신호 (novelty signal)로 사용하여 다른 클라이언트와의 유사성을 추정합니다. 이를 통해 원시 데이터를 공유하거나 메인 모델을 반복적으로 평가하지 않고도, 연합 학습 (federated training) 이전에 의미 있는 클라이언트 그룹을 발견할 수 있습니다. 결정적으로, 결과적인 연합 (federations)은 실행 시점의 로컬 새로움 추정치로부터 나타나므로, 클러스터의 수나 협업 구조를 사전에 지정할 수 없는 자율적인 대규모 분산 시스템에 이 방법을 적용하기에 적합합니다. 종합적으로, 클러스터링을 학습으로부터 분리함으로써, 이 방법은 non-IID 데이터 환경에서 자율적 협업을 위한 태스크 불가지론적 (task-agnostic) 이고 효율적인 메커니즘을 제공합니다.