변분 생성 Wasserstein 흐름(Variational Generative Wasserstein Flows)에 대한 통합적 관점
요약
Wasserstein 경사 흐름을 기반으로 생성 모델링을 위한 통합적 이론 프레임워크인 GWF를 제안합니다. 기존 방법론들을 JKO 스킴의 사례로 통합하고, f-발산을 넘어 다양한 확률 메트릭으로 확장하여 새로운 알고리즘과 GANs 간의 관계를 규명합니다.
핵심 포인트
- Wasserstein 경사 흐름 기반의 GWF 프레임워크 제시
- 기존 생성 모델들을 매개변수화된 JKO 스킴으로 통합
- f-발산을 넘어 IPM 및 MMD로의 이론적 확장
- JKO 정규화가 다양한 목적 함수에 미치는 영향 분석
많은 현대적 생성 모델(Generative models)은 확률 분포(Probability distributions) 사이의 발산(Divergences)을 최소화하는 것으로 볼 수 있지만, 이들은 서로 다른 알고리즘적 및 기하학적 원리에 의존합니다. Wasserstein 경사 흐름(Wasserstein gradient flows)은 분포에 대한 최적화를 위한 연속 시간 공식(Continuous-time formulation)을 제공하며, Jordan-Kinderlehrer-Otto (JKO) 스킴(Scheme)을 통한 암시적 이산화(Implicit discretization)를 통해 근사될 수 있습니다. 본 연구에서는 Wasserstein 경사 흐름에 기반한 생성 모델링을 위한 통합된 이론적 프레임워크를 제시하며, 이를 생성 Wasserstein 흐름 (Generative Wasserstein Flows, GWF)이라 명명합니다. 우리는 광범위한 기존 방법론들이 $f$-발산(f-divergence) 목적 함수에 대한 매개변수화된 JKO 스킴(Parametric JKO schemes)의 사례로 도출될 수 있음을 보여주며, 최근 제안된 여러 알고리즘 간의 동등성을 확립합니다. 우리는 이 프레임워크를 $f$-발산(f-divergence)을 넘어 적분 확률 메트릭(Integral Probability Metrics) 및 제곱 최대 평균 불일치(Squared Maximum Mean Discrepancy)로 확장하여, 새로운 JKO 기반 생성 알고리즘을 도출하고 GANs와의 연결 고리를 명확히 합니다. 우리는 다양한 목적 함수에 대한 JKO 정규화(Regularization)의 영향을 경험적으로 연구합니다. 마지막으로, 역학(Dynamics)이 매개변수화된 사상(Parametrized maps)에 의해 유도된 분포로 제한되는 매개변수형 Wasserstein 흐름(Parametric Wasserstein flows)을 분석합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기