일반화된 Hamiltonian 학습을 위한 Symplectic Neural Networks

Hamiltonian Neural Networks (HNNs)는 시스템의 Hamiltonian을 학습함으로써 물리적 사전 지식 (physical priors)을 신경망 모델에 통합하며, 이를 통해 일반화 성능과 샘플 효율성을 향상시킵니다. 상태 변수의 노이즈가 있는 관측값으로부터 시스템의 Hamiltonian을 식별하는 것은 매우 도전적인 과제입니다. 시뮬레이션이 Hamiltonian 시스템의 장기적인 동작, 특히 에너지 보존을 충실히 반영하기 위해서는 시스템의 기하학적 구조를 보존하는 심플렉틱 적분기 (symplectic integrators)를 사용하는 것이 필수적입니다. 이러한 충실도에는 대가가 따릅니다. 암시적 심플렉틱 적분기 (implicit symplectic integrators)는 계산 집약적이며, ODE solver를 통한 역전파 (backpropagation)를 까다롭게 만듭니다. 그러나 수반 시스템 (adjoint system)의 심플렉틱 이산화 (symplectic discretizations)가 역전파에 의해 연관된 것과 동일한 민감도 (sensitivities)를 생성한다는 사실을 활용함으로써, 우리는 신경망 (Neural Network) 파라미터를 학습하는 효율적인 방법을 얻습니다. 본 연구에서는 암시적 심플렉틱 적분기에 기반한 HNN 모델을 사용하여, 궤적의 노이즈가 있는 관측 환경 하에서 이러한 대안적인 HNN 학습 방법을 탐구합니다. 계산 측면에서는 예측자-교정자 (predictor-corrector) 기반의 ODE solver와 고정점 반복법 (fixed point iteration)을 사용하여 암시적 타임스텝 (implicit timestepping)의 계산 비용을 완화함으로써, 더욱 효율적인 그래디언트 업데이트 (gradient updates) 생성을 가능하게 합니다. 우리는 실험을 통해 다양한 비분리형 (non-separable) 카오스 시스템에서의 시스템 식별 및 에너지 보존 측면에서의 수치적 이점과, 우리 방법의 효율적인 계산 및 메모리 복잡도를 입증합니다. 또한, 후방 오차 분석 (backward error analysis)을 사용하여 학습된 Hamiltonian을 후처리하면, 흐름 맵 (flow map)의 더 정확한 이산화를 사용할 필요 없이 실제 Hamiltonian에 더 정확하게 근사하는 수정된 Hamiltonian을 얻을 수 있음을 관찰했습니다.