신경망 상호작용 발견은 언제 실제인가? 식별 가능성(Identifiability), 회복 가능성(Recoverability), 그리고 사전

신경망 시계열 모델(neural time-series model)이 한 변수가 타겟에 미치는 다른 변수의 효과를 조절한다고 보고할 때, 발견된 상호작용은 데이터의 속성인가 아니면 모델 유연성(model flexibility)에 의한 인위적인 결과(artifact)인가? 우리는 이것이 근본적으로 식별 가능성(identifiability)의 문제이며, 특정 신경망 구조(neural architecture)보다는 관측된 입력 지지 집합(input support)의 기하학적 구조에 의해 결정된다고 주장한다. 우리는 소스 기여도가 다른 시차 변수(lagged variables)에 의해 조절되는 신경망 가법 벡터 자기회귀(GNAVAR)의 곱셈 게이팅(multiplicative-gating) 확장 모델에서 이 문제를 연구한다. 우리는 표현 용량(representational capacity)이 식별 가능성과 동일하지 않음을 보여준다. 즉, 의존적인 입력은 에지별 상호작용 항(edge-specific interaction terms) 사이의 누출(leakage)을 유도하며, 저차원 지지 집합(low-dimensional support)은 관측된 데이터에서는 일치하지만 다른 곳에서는 서로 다른 별개의 상호작용 분해(interaction decompositions)를 허용한다. 그런 다음 우리는 공유된 조절자(shared modulators)가 있는 설정을 포함하여, 명시적인 지지 조건 하에서 정규화된 최소 GNAVAR 분해에 대한 모집단 식별 가능성 정리(population identifiability theorem)를 증명한다. 이 이론은 실무자를 위한 간단한 진단 도구를 제공한다. 즉, 결합 시차 블록 공분산(joint lag-block covariance)의 유효 계수(effective rank)는 모델을 적합(fitting)시키기 전에 주어진 후보 집합에 대해 상호작용 회복(interaction recovery)이 가능한지 여부를 예측한다. 후보 집합을 알 수 없는 경우, 두 개의 시드(seed)를 이용한 안정성 검사(stability check)가 실질적인 운영 테스트를 제공한다. 동일한 지지 조건은 경험적 결과를 이론이 예측하는 세 가지 상태로 분류한다. 우리의 결과는 상호작용 회복 가능성이 지지 기하학(support geometry)에 달려 있으며, 유효 계수가 실용적인 사전 적합 진단(pre-fit diagnostic)을 제공하고, 독립적인 적합 과정에서의 불안정성(instability)이 식별 불가능한 상호작용 발견의 특징적인 징후임을 보여준다. 식별 가능성 현상, 지지 조건, 그리고 불안정성 징후는 모델 불가지론적(model-agnostic)이다. GNAVAR는 이를 증명 가능하게 만드는 매개체일 뿐이다.