Deep Ensembles가 실제로 Graph Neural Networks에서 불확실성을 포착하는가?

요약

본 연구는 Deep Ensembles가 Graph Neural Networks(GNN)에서 불확실성을 효과적으로 포착하는지 조사합니다. 실험 결과, 앙상블이 불확실성 추정보다는 점 예측의 노이즈 안정화에만 기여하며, 독립적 네트워크들이 유사한 예측으로 수렴하는 'Epistemic collapse' 현상을 발견했습니다.

핵심 포인트

• GNN에서 Deep Ensembles의 불확실성 포착 효과는 미미함
• 앙상블의 이득은 불확실성 추정보다 점 예측 안정화에 집중됨
• 네트워크들이 유사한 예측으로 수렴하는 Epistemic collapse 식별
• 붕괴 원인은 가중치 공간이 아닌 기능적 볼록성에 기인함