본문으로 건너뛰기

© 2026 Molayo

arXiv논문2026. 06. 16. 12:51

최적 운송(Optimal Transport)을 통한 원샷 연합 학습(One-Shot Federated Learning)의 분포 정렬

요약

원샷 연합 학습(OSFL) 환경에서 발생하는 도메인 및 레이블 시프트 문제를 해결하기 위한 SLOT-Align 프레임워크를 제안합니다. 최적 운송(Optimal Transport) 이론을 활용하여 클라이언트 간의 특징 표현을 정렬함으로써 통신 효율성과 모델 강건성을 동시에 높였습니다.

핵심 포인트

  • 단 한 번의 통신만 수행하는 OSFL의 데이터 이질성 문제 해결
  • SLOT-Align: 기하학적 인지 특징 조화 프레임워크 제안
  • Bures-Wasserstein barycenters를 통한 글로벌 참조 구축
  • 기존 훈련 절차를 수정하지 않고 동결된 인코더에 즉시 적용 가능
  • 도메인 및 레이블 시프트 결합 상황에서 정확도와 강건성 향상

원샷 연합 학습 (One-Shot Federated Learning, OSFL)은 클라이언트가 서버와 단 한 번만 상호작용하는 극단적인 통신 환경을 다루며, 이로 인해 이질적인 클라이언트 데이터 분포의 영향이 증폭됩니다. 특히, 클라이언트 간의 도메인 시프트 (domain shift)와 레이블 시프트 (label shift)의 상호작용은 반복적인 최적화 (iterative optimization)를 통해서는 교정할 수 없는 정렬되지 않은 특징 표현 (feature representations)을 유발합니다. 기존의 OSFL 방법론들은 증류 (distillation), 서버 측 생성 (server-side generation) 또는 앙상블 기반 집계 (ensemble-based aggregation)에 의존하지만, 정렬된 표현을 가정하거나 도메인 시프트와 레이블 시프트를 별도로 처리합니다. 우리는 OSFL을 위한 기하학적 인지 특징 조화 프레임워크인 SLOT-Align (Single-round, Learning-free Optimal Transport Alignment)을 소개합니다. SLOT-Align은 공유된 동결된 인코더 (frozen encoder)를 사용하여 압축된 특징 통계량을 추출하고, Bures-Wasserstein barycenters를 통해 글로벌 참조를 구축하며, 폐형 지오데식 최적 운송 맵 (closed-form geodesic optimal transport maps)을 사용하여 로컬 표현을 정렬합니다. 이 방법은 계산 효율적이며, 훈련 절차를 수정하지 않고도 동결된 인코더에 의존하는 기존 OSFL 파이프라인과 결합될 수 있습니다. 다양한 벤치마크, 사전 학습된 백본 (pretrained backbones) 및 OSFL 방법론에 대한 광범위한 실험 결과, SLOT-Align이 도메인 및 레이블 시프트가 결합된 상황에서도 정확도와 강건성 (robustness)을 일관되게 향상시킴을 보여줍니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0