INDEQS: 정보가 주입된 신경 제어 미분 방정식 (Informed Neural controlled Differential EQuationS)

신경 제어 미분 방정식 (Neural Controlled Differential Equations, NCDE)은 시계열 예측을 위한 강력한 연속 시간 (continuous-time) 프레임워크를 제공하지만, 표준적인 그래프 기반 확장 방식은 유향 그래프 (directed graph) 구조가 사전에 알려진 설정에서도 일반적으로 데이터로부터 순수하게 공간 구조를 학습합니다. 우리는 별도의 아키텍처 위치에서 유향 그래프의 사전 지식을 통합하는 그래프 기반 NCDE 예측 방법인 INDEQS (Informed Neural controlled Differential EQuationS)를 소개합니다. INDEQS는 그래프 노드 간의 은닉 상태 (hidden states) 내부 혼합 (inner mixing)과 벡터장 (vector field) 및 제어 (control) 사이의 외부 혼합 (outer mixing)을 분리하며, 경량화된 그래프 제약 변형 (graph-constrained variant)과 적응형 그래프 컨볼루션 (adaptive graph convolutions)을 통해 데이터로부터 추가적인 그래프 연결을 학습하는 더 표현력이 풍부한 변형 (expressive variant)을 모두 제공합니다. 예측에서 그래프 정보 주입이 언제 유익한지 체계적으로 연구하기 위해, 우리는 유향 그래프 상의 연속 이류 (continuous advection) 시뮬레이션을 고안하여 정답 흐름 구조 (ground-truth flow structure)가 알려진 합성 시공간 데이터셋을 생성했습니다. 그런 다음 수문 네트워크에서의 하천 유량 예측과 PeMS08에서의 교통 흐름 예측이라는 두 가지 실제 작업에서 INDEQS를 평가했습니다. 이러한 합성 및 실제 벤치마크 전반에 걸쳐, 외부 정보 주입 (outer informedness)은 유사한 파라미터 수를 가진 정보가 없는 NCDE에 비해 특히 더 큰 그래프에서 평균 절대 오차 (mean absolute error)를 일관되게 개선하는 반면, 내부 정보 주입 (inner informedness)은 알려진 인접 행렬 (adjacency)을 엄격히 준수하고자 할 때 더 파라미터 효율적인 대안을 제공합니다. 이산 컨볼루션 (discrete convolutional) 디코더와 연속 시간 (continuous-time) 디코더의 비교를 통해, 연속 디코더가 실제 작업에서 더 나은 정확도와 더 큰 시간적 유연성을 제공함을 추가로 보여줍니다. INDEQS와 이류 시뮬레이션의 구현은 https://github.com/Mitchi1/indeqs 에서 확인할 수 있습니다.