훈련 및 일반화의 통계적 특성

딥러닝 (Deep learning)은 고전 통계학의 수많은 직관을 피해 가며 수많은 실제 세계 작업에서 전례 없는 성능을 달성해 왔습니다. 본 논문에서는 물리학적 관점 (physics-informed perspective)에서 딥러닝의 주요 특징과 놀라운 점들을 조사하며, 가능한 경우 딥러닝 모델을 구축할 때 내재된 많은 선택 사항들을 지적하고 정당화하는 데 주의를 기울입니다. 특히, 우리는 신경 스케일링 법칙 (neural scaling laws) 현상을 검토하고, 머신러닝 (machine learning)을 물리학 문제에 적용할 때 존재할 수 있는 제약 조건 및 귀납적 편향 (inductive biases)과의 상호작용에 대해 논의합니다.