순차적 희소 가우시안 프로세스 분위수 회귀 (Sequential sparse Gaussian process quantile regression)
요약
비대칭 라플라스 가능도의 비공액성 문제를 해결하기 위해 라플라스 근사를 활용한 희소 가우시안 프로세스 분위수 회귀 프레임워크를 제안합니다. 예측 불확실성을 분해하여 모델 복잡도를 적응적으로 제어하는 순차적 알고리즘을 통해 효율적인 데이터 획득과 유도 변수 배치를 수행합니다.
핵심 포인트
- 라플라스 근사를 이용한 가우시안 프로세스 분위수 회귀의 계산 효율성 개선
- 예측 불확실성을 두 가지 분산 성분으로 분해하여 적응형 메커니즘 구현
- 유도-입력 채우기 및 데이터 획득을 통한 순차적 알고리즘 개발
- 수치 실험을 통해 제안된 순차적 풍부화 전략의 효과 입증
분위수 회귀 (Quantile regression)는 관측된 데이터로부터 반응 변수의 조건부 분위수 (conditional quantiles)를 추정하는 것을 목표로 합니다. 베이지안 (Bayesian) 설정에서 가우시안 프로세스 (Gaussian process) 분위수 회귀는 불확실성 정량화 (uncertainty quantification)를 제공하지만, 비대칭 라플라스 가능도 (asymmetric Laplace likelihood)의 비공액성 (nonconjugacy)과 사후 추론 (posterior inference) 비용으로 인해 상당한 계산적 어려움에 직면합니다. 본 연구에서는 분위수 함수가 축소된 유도 변수 (inducing variables) 집합을 통해 표현되고, 라플라스 근사 (Laplace approximation)를 사용하여 사후 추론이 수행되는 희소 가우시안 프로세스 (sparse Gaussian process) 프레임워크를 개발합니다. 이후 예측 불확실성을 조건부-사전 (conditional-prior) 및 사후-유도 (posterior-induced) 분산 성분으로 분해하여, 두 가지 상호 보완적인 적응형 메커니즘인 유도-입력 채우기 (inducing-input infilling)와 데이터 획득 (data acquisition)을 구동하는 데 활용합니다. 이러한 메커니즘은 예측 불확실성의 지배적인 원인에 계산 자원을 할당하고 모델 복잡도를 적응적으로 제어하는 순차적 알고리즘 (sequential algorithm) 내에서 결합됩니다. 벤치마크 문제에 대한 수치 실험을 통해 라플라스 근사의 정확성, 분산 기반 유도-입력 배치 (variance-based inducing-input placement)의 이점, 그리고 사전 정의된 데이터 획득 전략과 비교했을 때 제안된 순차적 풍부화 전략 (sequential enrichment strategy)의 효과를 입증합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기