효율적인 분포 외 탐지(OOD Detection)를 위한 국소적 평탄성(Local Flatness) 활용

분포 외 (out-of-distribution, OOD) 데이터를 탐지하는 것은 신뢰할 수 있는 머신러닝 배포를 위해 매우 중요합니다. 탐지 전략 중에서도 사후 처리 (post-hoc) 방법은 재학습을 요구하지 않고 사전 학습된 네트워크에서 직접 작동하기 때문에 효율성 측면에서 특히 매력적입니다. 이러한 패러다임 내에서, 손실 지형 (loss-landscape)의 곡률을 활용하여 모델의 불확실성을 추정하는 유망한 방향이 존재하지만, 이러한 방법들은 상당한 계산 비용을 발생시키며 분포 내 (in-distribution, ID) 데이터와 OOD 데이터 간에 지형의 평탄성이 어떻게 다른지에 대한 암묵적인 가정에 의존합니다. 본 연구에서는 이러한 곡률 차이에 대한 최초의 체계적인 조사를 제공하며, OOD 입력이 ID 데이터보다 더 큰 헤시안 곡률 (Hessian curvature)을 나타내고, 분포 변화 (distributional shifts)가 강해질수록 그 격차가 커진다는 것을 보여줍니다. 이러한 관찰에 착안하여, 우리는 비용이 많이 드는 파라미터 공간 곡률 근사 (parameter-space curvature approximations)를 피하면서 ID-OOD 분리성을 개선하기 위해 피처 헤시안 (feature Hessian)과 부분 피처 정규화 (partial feature normalization)를 활용하는 경량화된 평탄성 변조 OOD 탐지기인 Fold를 제안합니다. 다양한 데이터셋에 걸쳐 이 정규화를 최적으로 적응시키기 위해, 우리는 외부 데이터 없이 자동 보정 (automatic calibration)을 수행할 수 있도록 ID 로짓 마스킹 (ID logit masking)을 통해 의사 OOD (pseudo-OOD) 샘플을 합성하는 자기 지도 튜닝 (self-supervised tuning) 방식인 AutoFold를 추가로 도입합니다. OOD 벤치마크 실험 결과, Fold는 표준 순전파 (forward pass)와 유사한 계산 효율성을 유지하면서도 평균 AUROC를 1.63% 향상시키고 FPR95를 2.30% 감소시켜 기존 방법들보다 뛰어난 성능을 보였습니다. 이론적 분석과 광범위한 절제 연구 (ablations)를 통해 뒷받침되는 Fold는 견고한 실세계 배포를 위한 원칙적이고 실용적인 솔루션을 제공합니다.