근사 구배(Proximal Gradients)를 통한 베이지안 사전 확률(Bayesian Priors) 기반의 예측 코딩(Predictive

우리는 예측 코딩(Predictive Coding)을 정규화된 최대 사후 확률(Maximum-a-posteriori, MAP) 목적 함수에 적용된 연속 시간 근사 구배 하강법(Continuous-time proximal gradient descent)으로 재구성합니다. 우리는 먼저 단일 계층(Single-level) 문제를 연구한 다음, 다계층 계층 구조(Multi-level hierarchy)를 연구합니다. 단일 계층 문제의 경우, 근사 구배 하강법이 정확히 누설 발화율 네트워크(Leaky firing-rate network)임을 보여줍니다. 즉, 막 누설(Membrane leak), 유효 순환 행렬(Effective recurrent matrix), 국소 시냅스 구동(Local synaptic drive), 그리고 정적 비선형성(Static nonlinearity)이 모두 하나의 최적화 원칙으로부터 도출되며, 결과적으로 생성된 회로는 Rao와 Ballard가 제안한 것과 동일합니다. 사전 확률(Prior)은 근사 연산자(Proximal operator)를 통해 비선형성을 선택하며, 가능도 정밀도(Likelihood precision)는 관측값에 대한 이득(Gain)을 설정합니다. 계층 구조의 경우, 심층 MAP 문제의 고전적인 변수 분할 완화(Variable-splitting relaxation)가 국소 및 분산 솔버(Local and distributed solvers)의 상호 연결로서 계층적 예측 코딩을 생성함을 보여줍니다. 확률 모델링 관점에서 이 완화 방식은 유향 생성 체인(Directed generative chain)을 노드 포텐셜(Node potentials)이 계층별 사전 확률인 무향 마르코프 무작위장(Undirected Markov random field)으로 대체합니다. 그러면 각 계층은 자체적인 활성화 함수, 즉 해당 사전 확률의 근사 연산자(Proximal operator)를 적용하게 됩니다.