암시적 자유 에너지 최소화를 통한 엔트로피적 오토인코딩 (EAE)

요약

본 논문은 변분 오토인코더(VAE)의 고질적인 문제인 사후 확률 붕괴(Posterior collapse)를 해결하기 위해 엔트로피적 오토인코더(EAE) 프레임워크를 제안합니다. EAE는 명시적인 사전 확률 대신 자유 에너지 최소화 앙상블 인코더를 사용하여 잠재 변수의 사전 확률을 암시적으로 생성하며, 이를 통해 데이터의 복잡한 구조를 보존하는 비가우시안 및 다봉 잠재 분포를 학습합니다.

핵심 포인트

• 사후 확률 붕괴 문제를 해결하기 위해 명시적 사전 확률 대신 암시적 사전 확률 생성 방식을 도입함
• 자유 에너지 최소화 앙상블 인코더를 통해 최적해의 고용량 영역으로 학습을 유도함
• 비가우시안 및 다봉(Multimodal) 잠재 분포를 학습하여 데이터의 다양한 기저 구조를 보존함
• MNIST 및 CelebA 데이터셋 실험을 통해 계층적 구조 이해와 범주적 구분 능력을 입증함