물리 정보 신경망 (PINN)을 통한 일반 매니폴드 상의 리만 확산 모델 (Riemannian Diffusion Models)
요약
리만 확산 모델의 학습을 위해 물리 정보 신경망(PINN)을 활용하여 매니폴드 열 커널을 근사하는 새로운 방법론을 제안합니다. 닫힌 형태의 열 커널이 없는 복잡한 매니폴드에서도 PINN을 통해 열 방정식을 직접 풀어 효율적인 샘플링과 점수 매칭을 가능하게 합니다.
핵심 포인트
- PINN을 사용하여 매니폴드 열 방정식을 직접 풀고 열 커널을 근사함
- 닫힌 형태의 열 커널이 없는 일반적인 매니폴드에 적용 가능
- 순방향 노이징과 디노이징 점수 매칭을 위한 대리 모델 제공
- $S^2$, $SO(3)$, $\mathrm{SPD}(n)$ 등 다양한 매니폴드에서 성능 입증
리만 확산 모델 (Riemannian diffusion models)은 매니폴드 상의 확률적 확산 방정식 (stochastic diffusion equations)을 통해 점수 기반 생성 모델링 (score-based generative modeling)을 매니폴드에 지지된 데이터 (manifold-supported data)로 일반화합니다. 그러나 학습을 위해서는 매니폴드 열 커널 (manifold heat kernel)로부터 샘플링하고 이를 미분해야 하는데, 몇몇 고도로 대칭적인 매니폴드를 제외하고는 열 커널이 닫힌 형태 (closed form)로 제공되는 경우가 드뭅니다. 본 논문에서는 물리 정보 신경망 (physics-informed neural network, PINN)을 사용하여 매니폴드 열 방정식 (manifold heat equation)을 직접 풀음으로써 열 커널을 근사하는 일반적인 접근 방식을 제안합니다. 명시적인 매니폴드 사양 (manifold specification)이 주어지면, 좌표계 (coordinate system)를 선택하고, 그에 상응하는 열 (Fokker--Planck) 방정식과 단시간 점근 근사 (short-time asymptotic approximation)를 유도한 다음, 로그 열 커널 (log heat kernel)을 학습하도록 PINN을 훈련합니다. 결과물인 대리 모델 (surrogate)은 순방향 노이징 (forward noising, 열 커널 샘플링)과 디노이징 점수 매칭 (denoising score matching)을 위한 조건부 점수 평가 (conditional-score evaluation)를 모두 가능하게 합니다. 우리는 $S^2$, $SO(3)$, $\mathrm{SPD}(n)$, 그리고 치환 몫 점구름 (permutation-quotiented point clouds)을 포함한 다양한 매니폴드에서 이 방법을 입증합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기