비볼록 이층 최적화 (Nonconvex Bi-Level Optimization)를 위한 합의 기반 입자 방법 (Consensus-Based

요약

본 논문은 하위 수준 문제의 전역 최솟값 집합 위에서 상위 수준 함수를 최소화하는 비볼록 이층 최적화(nonconvex bi-level optimization)를 위한 새로운 합의 기반 최적화 방법을 제안합니다. 미분 불필요(derivative-free) 방식을 채택하여 Gibbs 유형의 Laplace 근사와 매끄러운 분위수 선택을 통해 합의점을 구축하며, 평균장 역학 및 유한 입자 근사에 대한 수렴성을 이론적으로 입증했습니다.

핵심 포인트

• 미분 불필요(derivative-free) 방식의 비볼록 이층 최적화 접근법 제안
• Gibbs 유형의 Laplace 근사와 매끄러운 분위수 선택을 결합한 합의점 구축
• 평균장 법칙(mean-field law)이 목표 솔루션의 Wasserstein 근방에 지수 속도로 도달함을 증명
• 2차원 제약 조건 문제 및 신경망 학습 실험을 통한 이론적 결과 검증