브라운 커널 사다리 (Brownian Kernel Ladders)

계층적 구성 표현 (hierarchical compositional representations)을 포착하는 수학적으로 다루기 쉬운 함수 공간 (function spaces)을 구축하는 것은 통계적 학습 이론 (statistical learning theory)에서 여전히 핵심적인 과제로 남아 있습니다. 본 논문에서는 브라운 커널 적분 구축 (Brownian-kernel integral constructions)을 통해 생성되는, 재귀적으로 정의된 적분 재생 커널 힐베르트 공간 (integral reproducing kernel Hilbert spaces)의 계층 구조인 브라운 커널 사다리 (Brownian kernel ladders, BKLs)를 소개합니다. 선형 범함수 (linear functionals)에서 시작하여, 각 층은 이전 층의 부분집합에 의해 지지되는 확률 측도 (probability measures)에 대해 브라운 커널을 적분함으로써 얻어지며, 이를 통해 깊이 (depth)가 계층을 통해 직접적으로 인코딩되는 재귀적 함수 공간 모델을 생성합니다. 이 프레임워크를 바탕으로, 우리는 연관된 복잡도 범함수 (complexity functional)와 함께 정준 BKL 공간 (canonical BKL spaces)을 정의합니다. 우리는 이러한 공간들의 여러 분석적 및 통계적 특성을 확립합니다. 특히, BKL 공간이 준 바나흐 공간 (quasi-Banach spaces)을 형성하고, 깊이 의존적 횔더 정칙성 추정치 (depth-dependent Hölder regularity estimates)를 만족하며, 깊이에 대해 엄격한 단조성 (strict monotonicity)을 보임을 입증합니다. 나아가 우리는 정규화된 경험적 위험 최소화 (regularized empirical risk minimization)에 대한 존재성 결과를 증명하고, 주변 차원 (ambient dimension)과 계층 깊이 모두에 대해 균일하게 제어되는 가우시안 복잡도 경계 (Gaussian complexity bounds)를 도출합니다. 분석의 핵심 요소는 재귀적 부분집합 분해 (recursive subset decompositions) 및 브라운 커널 임계값 표현 (Brownian-kernel threshold representations)에 기반한 조합론적 증명 기법입니다. 이러한 추정치는 BKL 공간에서의 정규화된 경험적 위험 최소화에 대해 매개변수 차수 (parametric order)에 근접한 초과 위험 (excess-risk) 보장을 제공합니다. 우리의 결과는 딥러닝 (deep learning)에서의 구성적 표현을 연구하기 위한 수학적으로 다루기 쉬운 계층적 함수 공간 프레임워크를 제공합니다.