Flow-based Deep Generative Models
요약
이 글은 기존의 GAN(Generative Adversarial Networks)이나 VAE(Variational Autoencoders)와 같은 생성 모델들이 실제 데이터의 확률 밀도 함수 $p(oldsymbol{\mathbf{x}})$를 명시적으로 학습하기 어렵다는 문제점을 지적합니다. 특히, 잠재 변수 $oldsymbol{\mathbf{z}}$에 대한 적분 계산이 현실적으로 불가능하여 확률 밀도를 직접 추정하는 데 어려움이 있음을 설명하고 있습니다.
핵심 포인트
- GAN과 VAE는 데이터의 확률 밀도 함수 $p(\boldsymbol{\mathbf{x}})$를 명시적으로 학습하지 못한다.
- 생성 모델에서 확률 밀도 계산은 잠재 변수 $\boldsymbol{\mathbf{z}}$에 대한 적분 형태로 나타나기 때문에 매우 복잡하다.
- 이러한 근본적인 어려움 때문에 새로운 접근 방식(Flow-based Models)의 필요성이 제기된다.
지금까지 저는 GAN 과 VAE 라는 두 가지 유형의 생성 모델에 대해 작성해 왔습니다. 이 둘은 모두 실제 데이터의 확률 밀도 함수 $p(oldsymbol{\mathbf{x}})$ (여기서 $oldsymbol{\mathbf{x}} \in \mathcal{D}$) 를 명시적으로 학습하지 않습니다. 그 이유는 정말로 어렵기 때문입니다! 잠재 변수를 갖는 생성 모델을 예를 들어보면, $p(\boldsymbol{\mathbf{x}}) = \int p(\boldsymbol{\mathbf{x}}|\boldsymbol{\mathbf{z}})p(\boldsymbol{\mathbf{z}})d\boldsymbol{\mathbf{z}}$ 와 같이 잠재 코드 $\boldsymbol{\mathbf{z}}$ 의 모든 가능한 값을 통과하여 계산하는 것은 불가능에 가깝습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Lilian Weng Blog의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기