공기역학적 예측을 위한 Kolmogorov Arnold networks (KAN): MLPs 및 GNNs와의 비교

Kolmogorov Arnold networks (KAN)는 최근 (심층) 신경망 아키텍처로서 도입되었습니다. 이 아키텍처는 심층 다층 퍼셉트론 (MLPs)과 같은 전통적인 아키텍처의 핵심인 아핀 변환 (affine transformations) 계수 대신, 학습 가능한 파라미터가 활성화 함수 (activation functions)를 조정한다는 특징이 있습니다. 이 아키텍처는 Kolmogorov-Arnold 정리에 기반하며, 이를 통해 보편적 근사 (universal approximation) 속성을 부여받습니다. KAN의 등장은 흥분 속에 받아들여졌으나, 기호 회귀 (symbolic regression), 범용 머신러닝 (generic-purpose machine learning), 자연어 처리 (natural language processing) 또는 컴퓨터 비전 (computer vision)과 같은 고전적인 분야에서 KAN이 심층 다층 퍼셉트론 (MLPs)보다 우월할 수 있는지에 대해서는 현재 논쟁이 진행 중입니다. 본 연구에서는 유체 역학 대리 모델링 (fluid dynamics surrogate modelling) 영역에서 KAN의 성능을 평가하고, MLPs 및 그래프 신경망 (GNNs)과의 미묘한 차이를 비교합니다. 이를 위해 우리는 공기역학의 표준 과제인 아음속 및 천음속 에어포일 (airfoils) 상의 표면 압력 분포를 예측하는 과제를 고려합니다. 우리의 결과에 따르면, KAN 모델은 전체 압력 계수 (pressure coefficients)를 예측하는 데 좋은 성능을 보이며 마하 수 (Mach numbers)와 받음각 (angles of attack)에 걸쳐 보간 (interpolate)할 수 있음을 보여줍니다. 그러나 그 성능은 적절히 훈련된 MLP와 비교할 만한 수준이며 — 미세하게 열등합니다 — GNN은 더 긴 훈련 시간을 대가로 최상의 성능을 달성합니다. 최적의 KAN 모델은 일반적으로 MLP 및 GNN보다 복잡도가 훨씬 낮아 — 따라서 더 빠른 훈련이 가능하지만 — KAN은 훈련 불안정성 (training instabilities)을 겪으며, 그 성능이 적절한 하이퍼파라미터 최적화 (hyperparameter optimisation)에 크게 의존한다는 것을 발견했습니다.