무한 차원 다양체 상의 미분 가능한 사상에 대한 가중 유니버설 근사 (Weighted universal approximation)

우리는 도함수 (derivatives)의 근사를 포함함으로써, 함수 입력 신경망 (Functional Input Neural Networks, FNN)에 대한 유니버설 근사 정리 (Universal Approximation Theorem, UAT)를 미분 가능한 사상 (differentiable maps)으로 일반화합니다. FNN은 아마도 무한 차원일 수 있는 가중 다양체 (weighted manifold)로부터 입력을 받아 실수 값의 은닉층 (hidden layer)으로 매핑하며, 여기에 비선형 스칼라 활성화 함수 (non-linear scalar activation function)가 적용된 후, 선형 판독 (linear readouts)을 통해 바나흐 공간 (Banach space)으로 출력을 반환합니다. 가중 나흐빈 정리 (weighted Nachbin theorem)를 증명함으로써, 우리는 컴팩트 집합 (compact sets) 상에서의 통상적인 정식화를 넘어 도함수의 근사까지 포함하는 미분 가능한 사상에 대한 유니버설 근사 정리 (UAT)를 확립합니다. 이는 수평 및 수직 도함수 (horizontal and vertical derivatives)를 포함하는 비예측적 범함수 (non-anticipative functionals)에 대한 근사 결과로 이어집니다. 추가적인 응용으로서, 우리는 시그니처 (signature)의 선형 함수가 방향 도함수 (directional derivatives)를 포함한 경로 공간 범함수 (path space functionals)를 근사할 수 있음을 보여줍니다.