디퓨전 후험 샘플러(Diffusion posterior samplers)는 언제, 왜, 어떻게 실패하는가? 유한 표본 관점에서의 분석

디퓨전 모델(Diffusion models)은 자연 데이터의 복잡한 분포를 모델링하는 탁월한 능력을 갖추고 있으며, 이는 영상 역문제(imaging inverse problems)에서의 후험 샘플링(posterior sampling)을 위한 대중적이고 효과적인 선택지가 되게 했습니다. 기존 방법들은 추론 시점에 어떠한 측정 모델(measurement model)도 통합할 수 있지만, 계산적 용이성(computational tractability)을 위해 중간 타임스텝(intermediate timesteps)에서의 가능도(likelihood)에 대해 부정확한 근사치(inexact approximation)를 사용해야만 합니다. 이러한 근사치들이 경험적으로는 종종 잘 작동할 수 있지만, 샘플링된 후험 분포(sampled posterior)에 미치는 하류 효과(downstream effect)는 잘 알려져 있지 않으며 설명되지 않는 실패를 초래할 수 있습니다. 이러한 가능도 근사치가 언제, 왜, 그리고 어떻게 잘못된 후험 분포로 전파되는지 이해하기 위해, 우리는 임의의 순방향 모델(forward model)과 사전 분포(prior distribution)에 대해 훈련 세트 크기가 무한대로 수렴함에 따라 후험을 임의의 정밀도로 근사하는 후험 샘플링에 대한 유한 표본 관점(finite-sample perspective)을 도입합니다. 이 유한 표본 관점을 사용하여, 우리는 대중적인 후험 샘플링 근사치들이 중간 타임스텝에서 후험의 확산(spread)을 과소 또는 과대 평가하는 경향이 있음을 관찰하였으며, 이는 조기 종료 시간(early stopping time)에 대한 민감도, 후험 모드(posterior modes)의 부정확한 상대적 가중치 부여, 그리고 후험에 존재하지 않는 사전 모드(prior modes) 및 사전 분포에 의해 지지되지 않는 가능도 모드(likelihood modes) 모두에 대한 환각(hallucination)을 포함한 하류 결과들을 초래합니다. 더욱이, 우리는 이러한 후험 오류의 원인이 비선형 측정 모델(nonlinear measurement model)이나 다봉 후험(multimodal posterior)을 필요로 하지 않으며, 오직 다봉 사전 분포(multimodal prior)와 중간 샘플링 시간에서의 부정확한 후험 확산(inaccurate posterior spread)만으로도 발생할 수 있음을 발견했습니다. 우리의 유한 표본 후험 샘플링 접근 방식은 가능도 근사의 유형과 순방향 모델(선형 또는 비선형)의 유형에 관계없이 적용 가능하며(agnostic), 따라서 기존 및 미래의 후험 샘플러의 정확성과 실패 모드를 평가하기 위한 즉시 사용 가능한 진단 도구(drop-in diagnostic)로 활용될 수 있습니다.