조정되지 않은 Hamiltonian Monte Carlo 및 감쇠된 Langevin에서의 편향 비국소화
요약
본 연구는 조정되지 않은 Hamiltonian Monte Carlo 및 감쇠된 Langevin과 같은 샘플러의 편향 비국소화 현상을 확장했습니다. 변수 간 상호작용이 약하거나 희소할 때, 고차원 분포의 $K$차원 주변분포의 $W_2$ 편향을 제어하는 데 필요한 적분 단계 수를 분석했습니다. 이 연구는 새로운 행렬-다항식 프레임워크를 제시하며, 감쇠된 Langevin 알고리즘에 대한 결과를 확장하여 광범위한 적용 가능성을 입증합니다.
핵심 포인트
- 조정되지 않은 HMC 및 감쇠된 Langevin의 편향 비국소화 현상을 연구함.
- 변수 간 상호작용이 희소할 때 $K$차원 주변분포의 $W_2$ 편향 제어에 필요한 적분 단계 수를 제시함.
- 새로운 행렬-다항식 프레임워크를 통해 이산 시간 적분기의 기술적 어려움을 다룸.
- 감쇠된 Langevin 알고리즘 결과가 모든 큰 마찰 매개변수에 대해 유효함을 보임.
조정되지 않은 Hamiltonian Monte Carlo와 감쇠된 Langevin과 같은 샘플러는 편향을 갖는 것으로 잘 알려져 있습니다. Metropolis-Hastings 조정은 전통적으로 Hamiltonian Monte Carlo에 통합되어 편향을 제거해 왔습니다. 하지만 이 조정은 합리적인 Metropolis 수용률을 위해 필요한 작은 스텝 크기 때문에 반복 복잡도를 크게 증가시킬 수 있습니다. 본 연구에서는 이전에 과감쇠 Langevin 알고리즘에 대해 확립되었던 extit{편향 비국소화(delocalization of bias)} 현상을 이 두 가지 조정되지 않은 알고리즘으로 확장합니다. 우리는 변수들 간의 약하거나 희소한 상호작용을 가정할 때, 고차원 분포의 임의의 $K$차원 주변분포의 $W_2$ 편향을 제어하기 위해 $ ext{log } d$ 항까지 $O(
oot{2}K)$개의 적분 단계가 충분함을 보여줍니다. 여기서의 이산 시간 적분기는 과감쇠 설정보다 더 큰 기술적 어려움을 야기하는데, 이를 우리는 그들의 전파자(propagator)를 특징짓는 광범위하게 적용 가능한 행렬-다항식 프레임워크를 통해 다룹니다. 감쇠된 Langevin 알고리즘에 대한 우리의 결과는 모든 큰 마찰 매개변수에 대해 유효하며, 이는 과감쇠 Langevin 역학을 위한 Leimkuhler-Matthews 적분기 또한 편향 비국소화를 나타냄을 의미합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기