연속 제어를 위한 학습 가능한 비선형 연결을 갖춘 저전력 아날로그 신경망

물리적 신경망 (Physical neural networks)은 아날로그 소자 물리학 (analogue device physics)을 통해 직접 계산함으로써 저전력 머신러닝 (low-power machine learning)을 약속하지만, 대부분의 아키텍처는 비선형 소자 응답이 스칼라 가중치 (scalar weights)로 작동하도록 강제합니다. Kolmogorov-Arnold 네트워크 (KAN)에서 영감을 받아, 우리는 연결부에 학습 가능한 비선형 함수 (trainable nonlinear functions)를 배치하여 각 물리적 연결을 학습 가능한 계산 요소 (learnable computational element)로 만듭니다. 이러한 함수를 필드 프로그래머블 아날로그 어레이 (field-programmable analogue arrays) 상의 아날로그 대역 통과 필터 (analogue band-pass filters)로 구현함으로써, 우리는 그 이점이 작업에 따라 달라지며 물리적 기저 (physical basis)의 매끄러움 (smoothness)에서 비롯된다는 것을 발견했습니다. 이 네트워크는 로봇 운동학 (robotic kinematics), 연속 제어 (continuous control), 광전지 최대 전력점 추적 (photovoltaic maximum-power-point tracking)을 포함하여 매끄럽고 연속적인 값을 가진 타겟을 다층 퍼셉트론 (multilayer perceptrons)보다 훨씬 적은 노드와 연결로 표현하지만, 분류 (classification)와 유사한 결정 경계 (decision boundaries)에서는 파라미터 효율성 (parameter-efficiency)의 이점을 제공하지 않습니다. 학습된 네트워크는 약 35,000개의 연결에 걸쳐 정량화된 충실도 (fidelity)로 하드웨어에 전이되며, 전용 CMOS 구현은 약 30 마이크로와트 (microwatts)에서 작동할 것으로 예상됩니다. 멤리스티브 (memristive) 구현은 시뮬레이션에서 동일한 동작을 재현하며, 이는 이점이 특정 소자로부터 오는 것이 아니라 연결부에 학습 가능한 비선형성 (trainable nonlinearity)을 배치하는 것에서 온다는 것을 나타냅니다.