온라인 일반화 예측 코딩 (Online Generalised Predictive Coding)

본 논문은 온라인 응용에 대한 일반화 필터링의 확장을 소개합니다. 일반화 필터링은 잠재 상태 추론, 알려지지 않은 모델 파라미터 학습, 불확실성 추정 (예: 상태 및 관측 노이즈) 을 통합된 프레임워크에서 동시에 수행하는 데이터 동화 스키마를 의미합니다. 이 프레임워크는 공학의 변분 칼만-부시 필터링 (Variational Kalman-Bucy filtering), 신경과학의 일반화 예측 코딩 (Generalised predictive coding), 시계열 분석의 동적 기대 최대화 (Dynamic Expectation Maximisation, DEM) 등 다양한 이름으로 학문 분야를 가로지릅니다. 여기서는 시간 규모의 분리 (separation of temporal scales) 를 통해 DEM 을 온라인 데이터 동화에 특화시킵니다. 우리는 파라미터와 정밀도 (precisions) 의 느린 업데이트가 빠른 베이지안 믿음 업데이트 (Bayesian belief updating) 와 함께 동적 숨겨진 상태에 대해 수행될 수 있도록 허용하는 변분 원리와 절차를 설명합니다. 수치 연구로, 비선형 (non-linear) — 그리고 잠재적으로 혼돈적인 (chaotic) — 생성 모델을 사용하여 온라인 DEM (ODEM) 의 유효성을 입증하고, ODEM 스키마가 생성 모델의 동역학과 근본적으로 다른 함수 형태를 가질 때에도 생성 과정의 잠재 상태를 추적할 수 있음을 보여줍니다. 신경 모방 예측 코딩 관점 (neuro-mimetic predictive coding perspective) 으로 구성한 ODEM 은 동적 환경에서의 온라인 추론, 학습, 불확실성 추정에 대한 생물학에 영감을 받은 해결책을 제공합니다.