S$^3$LDBO: 분산형 이중 수준 최적화 (Decentralized Bilevel Optimization)를 위한 스냅샷 단일 루프 알고리즘

네트워크화된 AI 시스템은 통신 네트워크를 통해 모델을 협력적으로 학습하고 적응하는 다중 에이전트(multiple agents)에 점점 더 많이 의존하고 있습니다. 이러한 시스템에서 이중 수준 공식화 (bilevel formulations)는 하이퍼파라미터 최적화 (hyperparameter optimization), 데이터 클리닝 (data cleaning), 메타 학습 (meta-learning)에서 자연스럽게 발생하지만, 그래디언트 (gradients), 자코비안 (Jacobians), 헤시안 (Hessians)의 반복적인 평가는 개별 에이전트에게 상당한 계산 부담을 줄 수 있습니다. 이러한 과제를 해결하기 위해, 우리는 스냅샷 메커니즘 (snapshot mechanism)을 통해 에이전트가 비용이 많이 드는 미분 평가를 간헐적으로 건너뛸 수 있도록 하는 효율적인 단일 루프 분산형 이중 수준 최적화 알고리즘인 Snapshot-SLDBO (S$^3$LDBO)를 제안합니다. 이 메커니즘은 네트워크화된 AI를 위한 자율적 계산-적응 전략으로 해석될 수 있으며, 여기서 에이전트는 글로벌 협력 학습을 유지하면서 선택적으로 비용이 많이 드는 로컬 업데이트를 수행합니다. 우리는 결정론적 설정 (deterministic setting) 내에서 제안된 알고리즘의 에르고딕 반복 복잡도 (ergodic iteration complexity)와 고확률 비에르고딕 반복 복잡도 (high probability nonergodic iteration complexity)를 입증합니다. 합성 데이터셋 및 MNIST 데이터셋을 이용한 하이퍼파라미터 최적화, Fashion-MNIST에서의 데이터 하이퍼-클리닝 (data hyper-cleaning), 그리고 miniImageNet에서의 분산형 메타 학습 (decentralized meta-learning)에 대한 실험 결과는 제안된 알고리즘이 경쟁력 있는 학습 성능을 유지하면서도 계산 효율성을 향상시킨다는 것을 보여줍니다.