PhysGuard: Sim-to-Real 신경 PDE 대리 모델을 위한 Fisher 유도 그래디언트 투영 (Fisher-Guided

시뮬레이션 데이터로 학습된 신경 연산자 (Neural operator) 모델은 sim-to-real gap (시뮬레이션-실제 간 격차)으로 인해 실험 측정값에 적용될 때 정확도가 떨어지는 경우가 많습니다. 제한된 실제 데이터(real data)를 사용한 표준 미세 조정 (fine-tuning)은 이 격차를 줄일 수 있지만, 사전 학습 (pretraining) 과정에서 학습된 핵심 물리 관련 표현 (physics-relevant representations)을 손상시킬 수도 있습니다. 지식 보존 적응 (knowledge-preserving adaptation)은 시각(vision) 또는 언어(language) 작업에서 널리 연구되어 왔으나, 아키텍처와 보호해야 할 지식이 근본적으로 다른 신경 연산자 모델에도 이러한 방법들이 적합한지는 여전히 불분명합니다. 신경 연산자는 의미론적(semantic) 또는 시각적(visual) 특징보다는 핵심 규모의 물리적 구조 (core-scale physical structures)를 보존해야 합니다. 우리는 신경 연산자의 정확한 sim-to-real 적응을 위한 물리 보존 프레임워크인 PhysGuard를 제안합니다. 구체적으로, PhysGuard는 시뮬레이션 데이터에서 계산된 경험적 Fisher 정보 행렬 (empirical Fisher Information Matrix)을 사용하여 물리적으로 중요한 파라미터 방향을 식별한 다음, 미세 조정 업데이트가 해당 방향을 방해하지 않도록 제한합니다. 계층별 Gram-matrix 정식화 (layer-wise Gram-matrix formulation)를 통해 수백만 개의 파라미터를 가진 모델에서도 이를 효율적으로 수행할 수 있으며, 적응형 임계값 (adaptive threshold)이 보호된 부분 공간 (protected subspace)의 크기를 자동으로 결정합니다. 스펙트럼 프로브 (spectral probe) 실험 결과, 지배적인 Fisher 방향이 저주파 출력 구조 (low-frequency output structures)와 강하게 연관되어 있음을 보여줍니다. 네 가지 신경 연산자 아키텍처 및 다양한 물리 시스템에 걸친 벤치마크 실험을 통해 PhysGuard가 베이스라인(baselines) 대비 대부분의 평가 지표에서 강력한 성능을 발휘함을 입증했습니다. 이러한 이점은 심각한 도메인 변화 (domain shift) 상황에서 가장 두드러지게 나타나며, 적응성을 유지하면서도 표준 미세 조정 대비 저주파 오차 (low-frequency error)를 최대 32%까지 줄였습니다. 우리의 코드는 https://github.com/ZhouChaunge/PhysGuard 에서 확인할 수 있습니다.