PTL-Diffusion: 주기적 종단 법칙(Periodic Terminal Laws)을 이용한 매니폴드 인식 확산 모델
요약
PTL-Diffusion은 단일 가우시안 분포 대신 주기적 종단 법칙을 사용하여 데이터의 저차원 매니폴드 구조를 더 잘 포착하는 새로운 확산 모델 프레임워크를 제안합니다. 순방향 노이징 과정에 위상 구조를 직접 내장하여 매니폴드 수준의 분포 매칭 성능을 개선했습니다.
핵심 포인트
- 주기적 가우시안 종단 법칙을 통한 매니폴드 인식 구조 제안
- 순방향 노이징 역학에 위상 구조를 직접 내장
- 표준 DDPM 대비 매니폴드 수준의 분포 매칭 성능 향상
- 토러스, 실린더 및 얼굴 데이터셋 실험을 통한 유효성 검증
표준 확산 모델 (Standard diffusion models)은 일반적으로 생성의 참조 법칙 (reference law)으로서 단일한 시간 균질 가우시안 종단 분포 (time-homogeneous Gaussian terminal distribution)를 사용합니다. 이러한 선택은 분석적으로 편리하고 경험적으로 강력하지만, 데이터 분포의 서로 다른 영역이 뚜렷한 국소적 기하학적 또는 의미적 요인에 대응할 수 있는 저차원 매니폴드 (low-dimensional manifolds) 근처에 집중된 데이터에 대해서는 명시적인 구조를 거의 제공하지 못합니다. 결과적으로, 역방향 모델 (reverse model)은 구조화되지 않은 종단 참조 분포로부터 매니폴드 수준의 구조를 거의 전적으로 복구해야 합니다.
우리는 순방향 노이징 과정 (forward noising process)이 단일 불변 법칙 (single invariant law)이 아닌, 비상수 주기적 가우시안 종단 법칙 군 (nonconstant periodic family of Gaussian terminal laws)으로 수렴하는 개념 증명용 확산 프레임워크인 PTL-Diffusion을 제안합니다. 위상 정보가 디노이징 네트워크에만 입력되고 순방향 과정은 변하지 않는 위상 조건부 DDPM (phase-conditioned DDPM)과 달리, PTL-Diffusion은 위상 구조 (phase structure)를 순방향 노이징 역학 (forward noising dynamics)에 직접 내장합니다. 제안된 구성은 표준 디노이징 확산 모델 (denoising diffusion models)과 유사하게 유지됩니다. 주기적으로 강제된 Ornstein--Uhlenbeck 유형의 순방향 과정을 위해, 우리는 폐쇄형 순방향 주변 분포 (closed-form forward marginals), 극한 주기적 가우시안 종단 군 (limiting periodic Gaussian terminal family), 그리고 명시적인 가우시안 역방향 사후 분포 (explicit Gaussian reverse posteriors)를 도출하여 표준 노이즈 예측 학습 (noise-prediction training)을 가능하게 합니다. 또한 우리는 평균된 주기적 참조 법칙을 통해 위상 조건부 역방향 역학 (phase-conditioned reverse dynamics)을 결합하는 불변 평균 정규화 항 (invariant-average regularization term)을 도입합니다.
토러스 (torus) 및 실린더 (cylinder) 포인트 클라우드 벤치마크와 Olivetti 얼굴 데이터셋에 대한 실험 결과, PTL-Diffusion은 매칭된 DDPM 베이스라인에 비해 매니폴드 수준의 분포 매칭 (manifold-level distributional matching)을 개선하며, 위상 조건부 오차 (phase-conditioned errors), 특징 공간 공분산 오차 (feature-space covariance errors), 그리고 최근접 이웃 매니폴드 거리 (nearest-neighbour manifold distances)를 감소시킴을 보여줍니다. 이러한 결과는 구조화된 종단 참조 법칙 (structured terminal reference laws)이 유망한 방향임을 시사하는 동시에, 더 표현력이 풍부한 위상 구성과 대규모 평가의 필요성을 고취합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기