예측-원인적 격차: 불가능성 정리와 대규모 신경증거

요약

본 연구는 예측 표현 학습(predictive representation learning)에서 발생하는 '예측-원인적 격차(predictive-causal gap)'라는 구조적 한계를 보고합니다. 신경망이 시스템의 실제 동역학을 모델링하기보다 환경 자체를 추적하는 경향이 있으며, 이 격차는 차원이 증가할수록 심화됩니다. 연구진은 이러한 현상이 최적화 오류가 아닌 예측 목표의 본질적인 속성임을 증명했으며, 운영적 근접성을 통해 부분적으로 완화할 수 있지만 명시적인 시스템-환경 경계 설정 없이는 원인적 충실도를 회복하기 어렵다고 결론지었습니다.

핵심 포인트

• 예측 표현 학습은 종종 실제 시스템 동역학보다 환경 자체를 추적하는 경향이 있다.
• 차원이 증가함에 따라 예측 모델의 '원인적 실명(causally blind)' 현상이 심화된다.
• 이 격차는 최적화 아티팩트가 아닌, 예측 목표 구조의 본질적인 한계이다.
• 운영적 근접성(operational grounding)은 성능을 개선하지만, 명시적인 시스템-환경 경계 설정 없이는 원인적 충실도를 완전히 회복할 수 없다.