국소적 가소성(Local Plasticity) 및 수지상 돌기 계산(Dendritic Computation)을 통한 음원 분리용 규범적 네트워크

블라인드 음원 분리 (Blind source separation, BSS)는 감각 혼합물로부터 잠재적 원인을 어떻게 회복할 수 있는지 연구하기 위한 자연스러운 프레임워크이지만, 구조화된 (즉, 알려진 도메인으로 제한된) 그리고 잠재적으로 상관관계가 있는 음원들에 대해 온라인 방식의 생물학적으로 타당한 (biologically plausible) 알고리즘을 도출하는 것은 여전히 어려운 과제로 남아 있습니다. 최근 연구들은 엔트로피 척도의 최대화를 통해 BSS를 위한 신경망을 도출해 왔으나, 그 온라인 구현은 복잡하고 비국소적인 (nonlocal) 순환 역학 (recurrent dynamics)을 포함합니다. 이러한 관점에 영감을 받아, 우리는 오직 국소적 가중치 업데이트 (local weight updates)만을 사용하여 BSS에서 경쟁력 있는 성능을 달성하는 예측 엔트로피 최대화 (Predictive Entropy Maximization)를 제안합니다. 이 방법은 엔트로피 척도의 밀접한 근사치를 사용하여 쉽게 해석 가능한 구성 요소들을 가진 목적 함수 (objective function)를 생성합니다. 이 목적 함수를 최소화하면, 순방향 시냅스 (feedforward synapses)가 오류 기반 규칙 (error-driven rule, 수지상 돌기 메커니즘을 통해 실현 가능)을 따르고, 측면 억제 연결 (lateral inhibitory connections)은 국소적 헤브 가소성 (local Hebbian plasticity)으로 학습되며, 음원 도메인 제약 조건은 단순한 출력 비선형성 (output nonlinearities)을 통해 강제되는 예측 신경 구조 (predictive neural architecture)로 이어집니다. 우리는 근사치가 언제 정확한지를 규정하며, 대리 오류 (surrogate error)에 대한 명시적인 스펙트럼 경계 (spectral bounds)를 도출합니다. 경험적으로, 예측 엔트로피 최대화는 음원 상관관계와 관측 노이즈가 증가함에 따라 견고함을 유지하며, 더 강력한 독립성 또는 탈상관 (decorrelation) 가정을 기반으로 하는 생물학적으로 타당한 알고리즘보다 우수한 성능을 보이며, 정확한 행렬식 (determinant) 및 상관 정보 (correlative-information) 기반 베이스라인과 경쟁할 만한 수준을 유지합니다. 이러한 결과는 구조화된 음원 도메인에 대해 정규화된 2차 엔트로피 (regularized second-order entropy)를 최대화함으로써 어떻게 국소적 가소성과 적응형 측면 억제가 나타날 수 있는지를 보여줍니다. 우리의 구현 코드는 https://github.com/BariscanBozkurt/Predictive-Entropy-Maximization 에서 확인할 수 있습니다.