Tempered Guided Diffusion: 훈련 없이 조건부 샘플링을 위한 새로운 접근법
요약
Tempered Guided Diffusion (TGD)는 훈련 없이 조건부 샘플링을 수행하기 위한 새로운 프레임워크입니다. 이 방법은 확산 사전(diffusion priors)과 Annealed Sequential Monte Carlo(ASMC) 기법을 결합하여, 노이즈된 확산 상태를 보조 변수로 활용하며 점진적 확률비율로 가중치를 부여받는 입자 전파 방식을 사용합니다. 특히, TGD의 개선 버전인 Accelerated TGD (A-TGD)는 재구성 작업의 비용을 줄이면서도 초기 탐색과 고확률 궤적 추적을 결합하여 높은 후방 근사 성능과 효율적인 속도-품질 트레이드오프를 달성합니다.
핵심 포인트
- TGD는 별도의 모델 훈련 없이 조건부 샘플링이 가능한 확산 기반 접근법입니다.
- Annealed Sequential Monte Carlo (ASMC) 프레임워크를 사용하여 점진적 확률비율로 입자를 가중치 부여 및 전파합니다.
- 노이즈된 확산 상태는 재구성 및 입자 전파의 보조 변수로만 사용되어 계산 효율성을 높입니다.
- Accelerated TGD (A-TGD)를 통해 샘플링 과정 중 일부 단계에서 단일 고확률 궤적으로 전환하여 비용을 절감하고 성능을 유지합니다.
훈련 없는 조건부 확산 (Training-free conditional diffusion) 은 특정 작업에 특화된 모델 훈련의 유연한 대안이지만, 기존 샘플러는 계산 효율성을 낮게 할당하는 경향이 있습니다. 독립적인 가이드 궤적은 품질이 크게 달라질 수 있으며, 단일 궤적 내 추가 함수 평가는 초기 결정이 나쁜 경우 회복을 보장하지 않습니다.
우리는 훈련 없는 조건부 샘플링을 위한 확산 사전 (diffusion priors) 을 사용하는 Annealed Sequential Monte Carlo 프레임워크인 Tempered Guided Diffusion (TGD) 를 제안합니다. TGD 는 깨끗한 신호에 대한 tempered posterior 분포를 목표로 하며, 노이즈된 확산 상태는 재구성 및 입자 전파의 보조 변수로만 사용됩니다.
입자는 점진적 확률비율 (incremental likelihood ratios) 로 가중치를 부여받고, 재표본 추출되며, 노이즈 수준을 가로지르며 전파됩니다. 이는 사전과 관찰 모두에 합리적인 궤적을 집중합니다. 이상화된 완전 재구성 가정 하에, 입자 수의 증가에 따라 전체 TGD 는 후방 분포에 일관된 입자 근사를 제공합니다.
昂가 (Expensive) 재구성 작업에서 Accelerated TGD (A-TGD) 는 초기 입자 탐색을 유지하되, 샘플링 중 일부 단계에서 단일 고확률 궤적으로 자릅니다. 통제된 2 차원 역문제 및 이미지 역문제 실험은 독립적 다궤적 기준선 (independent multi-trajectory baselines) 과 비교하여 개선된 후방 근사 및 유리한 벽시계 속도-품질 트레이드오프를 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기