Uniform Diffusion Models 재고: Leave-One-Out Denoiser 및 Absorbing State 재정식화

요약

Uniform Diffusion Models(UDM)의 학습 목적 함수와 파라미터화 사이의 불일치를 분석하고, Leave-One-Out 사후 확률을 통한 최적화 방안을 제시합니다. 또한 Absorbing State 재정식화를 통해 UDM의 샘플링 성능을 개선하고 Masked Diffusion과의 격차를 해소하는 연구를 다룹니다.

핵심 포인트

• UDM의 플러그인 브리지 파라미터화와 디노이징 목적 함수 간 불일치 식별
• Leave-One-Out 사후 확률을 통한 디노이저 및 스코어 변환 도출
• 추가 학습 없이 온도 샘플링 개선을 통한 추론 성능 향상
• Absorbing State 재정식화로 단순화된 디노이징 및 샘플링 메커니즘 제공