XMSE 인지형 적응적 경험적 베이즈 추정 (XMSE-Aware Adaptive Empirical Bayes Estimation)

경험적 베이즈 (Empirical Bayes, EB) 추정량은 최대 우도 (Maximum Likelihood, ML)의 1차 점근적 위험 (asymptotic risk)과 일치할 수 있지만, 2차 수준에서는 매우 다르게 동작할 수 있습니다. 최근의 초과 평균 제곱 오차 (excess mean squared error, XMSE) 분석에 따르면, 커널 (kernel)이 실제 파라미터와 제대로 정렬되지 않았을 때 커널 기반 EB 추정이 ML보다 더 나쁠 수 있음을 보여줍니다. 본 논문은 이러한 진단 도구를 설계 원칙으로 전환합니다. 우리는 ML과 EB 수축 (shrinkage) 사이를 보간하는 XMSE 인지형 혼합 추정량 (XMSE-aware mixed estimator)을 제안합니다. 이 추정량의 고정 가중치 XMSE는 스칼라 이차 형식 (scalar quadratic)이며, XMSE 척도에서 ML 및 기본 EB 추정량보다 나쁘지 않은 폐쇄형 오라클 혼합 가중치 (closed-form oracle mixing weight)를 산출합니다. 유한 표본 XMSE 근사치에 기반한 플러그인 (plug-in) 구현은 일관성 (consistent)이 증명되었으며, 내부 오라클 가중치에 대해 2차 오라클 후회율 (second-order oracle regret rate)을 가집니다. 나아가 우리는 선택된 가중치에서 평가된 고정 가중치 위험 곡도로의 후회 경계 (regret bound) 전이, 임계값 경계 규칙 (thresholded boundary rule), 그리고 컴팩트 커널 가족 (compact kernel families) 및 높은 확률의 오라클 경계를 가진 유한 및 성장하는 커널 사전 (kernel dictionaries)으로의 확장을 확립합니다. SURE-tuned, hard-selection, trace-corrected 베이스라인을 사용한 유한 임펄스 응답 (Finite impulse response) 시뮬레이션과 공개 벤치마크인 Silverbox 및 Cascaded Tanks를 통해, 제안된 추정량이 정규화 (regularization)가 유용할 때는 그 이점을 대부분 유지하면서도, 커널 오지정 (kernel misspecification) 상황에서는 ML 쪽으로 후퇴함을 보여주며, 벤치마크에서 식별된 유한한 분석을 제공합니다.