대칭성 하 변분 추론 (VI)의 강건성 개선: 평균 복구 보장

요약

본 논문은 근사하기 어려운 분포(intractable density)를 다루는 변분 추론(Variational Inference, VI)의 강건성 문제를 심화합니다. 일반적으로 사용되는 단순한 매개변수적 가정(variational family)이 목표 분포(target distribution)를 포함하지 못하는 '오지정(misspecification)' 상황에서, 대칭성(symmetries)을 활용하여 통계량(mean)의 정확한 복구를 보장할 수 있는 충분조건을 도출했습니다. 특히 전방 KL 발산(forward Kullback-Le

핵심 포인트

• 전방 Kullback-Leibler (KL) 발산 및 $\alpha$-발산을 사용하여 평균값에 대한 정확한 복구(exact recovery of the mean)를 보장하는 충분조건을 도출했습니다.
• 제시된 충분조건이 없을 경우 최적화 과정에서 목표 분포의 평균값을 복구하지 못할 수 있음을 이론적으로 입증하여, 변분 가족 및 $\alpha$-값 선택에 대한 가이드라인을 제시합니다.
• 변분 추론의 강건성을 대칭성(symmetries)이라는 구조적 특성과 결합하여 개선함으로써, 오지정 상황에서도 통계적 목표를 달성할 수 있는 새로운 이론적 기반을 마련했습니다.