OperatorSHAP: 신경 연산자(Neural Operators)를 위한 빠르고 정확한 샤플리 값(Shapley Value) 추정
요약
신경 연산자(Neural Operators)의 예측을 해석하기 위한 새로운 기여도 산출 방법론인 OperatorSHAP를 제안합니다. 격자 크기에 구애받지 않는 격자 불가지론적(grid-agnostic) 특성을 가지며, 함수 공간에서의 이론적 프레임워크를 통해 효율적인 샤플리 값 추정을 가능하게 합니다.
핵심 포인트
- 신경 연산자를 위한 격자 불가지론적 기여도 산출 방법론 제안
- Aumann-Shapley 값과 연결된 함수 공간 기반의 이론적 프레임워크 구축
- 재학습 없이 다양한 해상도 및 격자 크기 간 전이 가능
- 기존 FastSHAP의 균질한 입력 한계를 극복하여 물리적 응용 분야에 최적화
모델의 예측을 이해하는 것은 물리적 응용 분야에서 필수적입니다. 이러한 분야에서 출력값은 구조적 하중 평가, 기상 경보, 임상 진단과 같이 안전이 중요한 결정에 종종 영향을 미칩니다. 샤플리 값(Shapley values)은 기여도 산출(attribution) 방법으로서 많은 바람직한 속성을 만족하지만, 추론 과정에서의 계산 비용이 실질적인 사용을 저해합니다. FastSHAP와 같은 기존의 분할 상환 설명기(amortized explainers)는 균질한 입력(homogeneous inputs)에 국한되어 있는데, 이는 데이터가 불규칙한 격자(irregular grids)와 기하학적 구조(geometries)에서 발생하는 경우가 많은 물리적 응용 분야에서는 문제가 됩니다. 우리는 신경 연산자(neural operators)를 위해 FastSHAP와 유사한 설명기를 학습시킬 수 있는 격자 불가지론적(grid-agnostic) 기여도 산출 방법 및 학습 절차인 OperatorSHAP를 소개합니다. 우리는 함수 공간(function space)에서의 기여도 산출을 위한 이론적 프레임워크를 구축하여 Aumann-Shapley 값과 연결합니다. 나아가 OperatorSHAP의 설명이 다양한 해상도에 걸쳐 최첨단 이산 샤플리 값(discrete Shapley values)과 일치하며, 재학습 없이도 격자 크기 간에 전이(transfer)될 수 있음을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기