신경망의 불확실성 추정을 위한 Dirichlet 기반 Monte Carlo Dropout

전통적인 신경망 (Neural Networks)은 내재적인 불확실성 추정치 없이 결정론적인 예측을 제공합니다. 베이지안 신경망 (Bayesian Neural Networks, BNNs)은 불확실성 정량화 (Uncertainty Quantification)를 위한 원칙적인 접근 방식을 제공하지만, 계산 복잡성으로 인해 확장성에 한계가 있습니다. 초기에는 규제 기술 (Regularization technique)로 도입된 Monte Carlo (MC) Dropout은 여러 번의 확률적 순전파 (Stochastic forward passes)를 통해 확률적 모델링을 가능하게 함으로써 베이지안 추론 (Bayesian inference)을 근사할 수 있음이 입증되었습니다. 본 연구에서는 MC Dropout 내에 Dirichlet 기반 프레임워크를 통합함으로써 딥러닝 (Deep learning)의 불확실성 추정을 강화합니다. 구체적으로, 우리는 클래스 확률 (Class probabilities)을 Dirichlet 분포를 사용하여 모델링하여 더욱 유익한 불확실성 표현을 가능하게 하는 Sensoy et al. (2018)이 제안한 공식을 활용합니다. 제안된 접근 방식은 MC Dropout의 계산 효율성을 유지하면서 불확실성 추정의 품질을 향상시킵니다. 우리는 본 방법론의 이론적 토대를 논의하고 기존의 불확실성 정량화 기술과 비교합니다. 결과는 제안된 방법이 잘 보정된 (Well-calibrated) 불확실성 추정치를 생성하는 데 효과적임을 강조하며, 불확실성을 인지하는 (Uncertainty-aware) 딥러닝 모델을 위한 실질적인 솔루션을 제공합니다.