Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AlignFed는 이기종 엣지 환경에서 LLM을 위한 비동기 연합 미세 조정을 지원하는 새로운 프레임워크입니다. 모델 드리프트와 클라이언트 드리프트 문제를 해결하기 위해 다단계 의미론적 정렬 메커니즘을 제안합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델 (LLMs)은 엣지 지능 (edge intelligence)의 발전을 크게 촉진해 왔으며, 자율 주행, 산업 검사, 개인화된 IoT 서비스 등 다양한 시나리오에 널리 배포되었습니다. 그러나 엄격한 데이터 프라이버시 제약, 매우 이기종적인 (heterogeneous) 컴퓨팅 및 통신 자원, 그리고 로컬 데이터의 비독립 동일 분포 (non-IID) 특성으로 인해 엣지 장치에서의 LLM 협업 적응은 여전히 막대한 도전에 직면해 있습니다. 연합 미세 조정 (Federated Fine-Tuning, FFT)은 원시 데이터를 노출하지 않고 분산된 모델의 협업 최적화를 가능하게 합니다. 하지만 기존의 동기식 집계 (synchronous aggregation)는 심각한 낙오자 효과 (straggler effect)를 겪으며, 이로 인해 높은 시스템 지연 시간과 낮은 자원 활용도를 초래합니다. 기존의 비동기 연합 학습 (asynchronous federated learning) 방법들은 주로 중소규모 모델을 위해 설계되었으며, LLM 미세 조정에 내재된 특정 과제들, 즉 오래된 업데이트로 인한 모델 드리프트 (model drift), 데이터 이기종성에서 기인한 심화된 클라이언트 드리프트 (client drift), 그리고 빠른 클라이언트의 지배로 인한 집계 공정성 불균형 (aggregation fairness imbalance) 문제를 해결하는 데 어려움을 겪고 있습니다. 이러한 문제를 해결하기 위해, 본 논문은 이기종 엣지 환경에 맞춤화된 LLM용 비동기 연합 미세 조정 프레임워크인 AlignFed를 제안합니다. AlignFed는 세 가지 핵심 모듈로 구성된 경량 다단계 의미론적 정렬 (semantic alignment) 메커니즘을 채택합니다: 버전 인식 업데이트 그룹화 (version-aware update grouping), 미니 배치 보정 세트 (mini-batch calibration set) 기반의 교차 버전 의미론적 정렬 (cross-version semantic alignment), 그리고 업데이트 신선도 (update freshness)와 클라이언트 참여 빈도를 모두 통합한 공정성 인식 집계 (fairness-aware aggregation)입니다. 이 프레임워크는 교차 버전 모델 드리프트와 클라이언트 드리프트를 효과적으로 완화하는 동시에 집계 공정성을 향상시켜, 높은 이기종성과 상당한 업데이트 지연 (staleness)이 특징인 시나리오에서 안정적이고 효율적인 비동기 연합 최적화를 달성합니다.