가법적 분해를 넘어: 분리 가능성을 통한 해석 가능성

해석 가능한 머신러닝 (Interpretable machine learning)은 정확하면서도 데이터에 구조적으로 충실한 모델을 필요로 합니다. 기존의 설명 가능성 (Explainability) 방법론들은 가법적 표현 (Additive representations) (예: 일반화 가법 모델 (Generalized Additive Models (GAMs)), SHAP (SHapley Additive exPlanations), 기능적 ANOVA (functional ANOVA))에 크게 의존하고 있는데, 이는 강력한 상호작용 (Interactions)이 존재하는 상황에서 신호 상쇄 (Signal cancellation) 및 지지 집합 외 외삽 (Off-support extrapolation) 문제를 겪을 수 있습니다. 본 논문에서는 직교 재적합 (Orthogonal refitting)을 포함한 단계별 탐욕적 절차 (Stagewise greedy procedure)를 통해 각 특성별 단변량 함수 (Univariate per-feature functions)의 랭크-1 곱 (Rank-1 products)의 합을 학습하는 회귀 모델인 텐서 분리 학습 (Tensor Separation Learning (TSL))을 제안합니다. 분리 가능성 (Separability)을 강제함으로써, TSL은 고차 상호작용 (Higher-order interactions)을 주변화 (Marginalizing)할 때 발생하는 가법적 투영 (Additive projections) 고유의 정보 손실을 방지합니다. 학습된 TSL 모델은 상수 인자 (Constant factors)를 제외하고 1차 부분 의존 함수 (First-order partial dependence functions)로부터 완전히 재구성될 수 있습니다. 이러한 단계별 대응 관계는 결과물인 시각화가 적합된 구성 요소 (Fitted components)에 충실함을 보장합니다. 우리는 유계된 혼합 $p$차 부분 미분 (Bounded mixed $p$-th order partial derivatives)을 갖는 함수들에 대한 근사율 보장 (Approximation-rate guarantees)을 확립하였으며, TSL이 회귀 벤치마크에서 블랙박스 모델 (Black-box models)과 경쟁할 수 있음을 입증합니다.