최적의 이중 베이지안 학습 (Optimal Double-Bayesian Learning)을 이용한 신경망 학습

요약

본 논문은 신경망 학습의 핵심인 학습률(Learning Rate)을 최적화하기 위해 두 개의 대립하는 베이지안 프로세스를 활용하는 '이중 베이지안(Double-Bayesian)' 확률론적 프레임워크를 제안합니다. 기존의 경험적 방식에서 벗어나 이론적으로 최적의 학습률을 도출함으로써, 분류, 세그멘테이션, 탐지 등 다양한 작업에서 모델 성능을 입증했습니다.

핵심 포인트

• 경험적 실험에 의존하던 기존 학습률 설정 방식의 한계를 극복하기 위한 새로운 확률론적 프레임워크 제시
• 두 개의 대립하는 베이지안 프로세스를 결합한 이중 베이지안 결정 메커니즘 도입
• 이론적으로 도출된 최적의 학습률을 확률적 경사 하강법(SGD)에 적용 가능
• 다양한 컴퓨터 비전 작업(분류, 세그멘테이션, 탐지)을 통해 제안된 방법론의 실질적 유효성 검증