WassersteinGrad 를 활용한 동적 물리장 예측 설명: 자기회귀 기상 예보에의 적용

인공지능을 고위험 환경으로 통합하려는 수요가 계속 증가함에 따라, 신경망 예측 뒤에 숨은 추론을 설명하는 것은 이론적인 호기심에서 엄격한 운영 요구사항으로 전환되었습니다. 우리의 작업은 기상 예보와 같은 동적 물리장 (dynamic physical fields) 에 대한 자기회귀 신경망 예측의 설명에 의해 동기화되었습니다. 경계 기반 (gradient-based) 특징 귀속 방법은 특히 고차원 입력에 대한 확장성 덕분에 이러한 데이터에 대한 예측을 설명하는 데 널리 사용됩니다. 또한, SmoothGrad 와 같은 경계 기반 기법이 이제 여러 노이즈가 있는 입력에서 얻은 귀속 맵의 점별 평균을 사용하여 설명을 견고화 (robustify) 하는 데 이미 이미지 표준으로 자리 잡았다는 점을 주목할 가치가 있습니다. 우리의 목표는 이 집계 전략을 동적 물리장에 효율적으로 적용하는 것입니다. 이를 위해, 우리는 첫 번째 기여로 동적 물리장에서 교란된 귀속 맵을 평균할 때 발생하는 근본적인 실패 모드를 식별합니다: 확률론적 입력 교란은 귀속 맵에 정지성 진폭 노이즈 (stationary amplitude noise) 를 유발하지 않지만, 대신 귀속의 기하학적 이동을 (geometric displacement) 일으킵니다. 따라서 점별 평균은 이러한 공간적으로 정렬되지 않은 특징을 흐리게 합니다. 이 문제를 해결하기 위해 우리는 교란된 귀속 맵의 엔트로피 Wasserstein 바리센터 (entropic Wasserstein barycenter) 를 계산하여 그 기하학적 합의를 추출하는 WassersteinGrad 를 도입합니다. 지역 기상 데이터와 기상학자가 검증한 신경망 모델에서 얻은 결과는, 단일 단계 및 자기회귀 예보 설정 모두에서 경계 기반 베이스라인에 비해 WassersteinGrad 의 유망한 설명 가능성 (explainability) 특성을 입증합니다.