에너지 기반 구조적 확률 추론을 이용한 연합 학습 (Federated Learning with Energy-Based Structured

연합 학습 (Federated learning)은 일반적으로 고정된 가중치 또는 휴리스틱 (heuristic) 가중치 규칙을 사용하여 클라이언트 업데이트를 집계하며, 이는 클라이언트들이 이질적인 데이터 (heterogeneous data)를 가지고 있고 글로벌 모델에 대한 기여도가 다를 때 최적의 결과를 내지 못할 수 있습니다. 본 논문에서는 조건부 랜덤 필드 (Conditional Random Fields, CRFs)를 사용하여 클라이언트 집계 가중치를 정교화하는 프레임워크를 제안합니다. 우리의 방법은 개별 클라이언트에 대한 단항 포텐셜 (unary potentials)과 모든 클라이언트 쌍에 대한 쌍항 포텐셜 (pairwise potentials)을 정의하여, 서버가 클라이언트별 신뢰도와 클라이언트 간의 상호작용을 모두 모델링할 수 있도록 합니다. 결과적으로 도출된 CRF 추론은 글로벌 학습 목적 함수 (global training objective)의 더 나은 수렴을 가능하게 하는 집계 가중치를 생성합니다. 실험 결과, 비-IID (non-IID) 이질성 환경에서 우리의 접근 방식이 잘 확립된 연합 학습 베이스라인 (federated learning baselines)보다 일관되게 성능을 향상시킴을 보여줍니다.