표현 발현의 부트스트랩 이론: 표현 학습과 세계 모델의 동인으로서의 설명적 불충분성

표현 학습 (Representation learning)은 현대 머신러닝 (Machine learning)의 핵심이며, 수작업으로 제작된 특징 (Handcrafted features)에서 학습된 임베딩 (Embeddings), 잠재 공간 (Latent spaces), 파운데이션 모델 (Foundation models), 세계 모델 (World models), 그리고 디지털 트윈 (Digital twins)으로의 전환을 가능하게 합니다. 그러나 대부분의 연구는 표현 프레임워크 (Representational framework)가 선택된 이후에 표현이 어떻게 최적화되는지를 조사하는 데 집중하는 반면, 새로운 수준의 표현이 언제 필요해지는지에 대해서는 상대적으로 주의를 덜 기울이고 있습니다. 본 논문에서는 기존의 표현이 설명적으로 불충분해질 때 새로운 표현이 어떻게 발생하는지를 설명하는 프레임워크인 '표현 발현의 부트스트랩 이론 (Bootstrap Theory of Representational Emergence, TBER)'을 소개합니다. 이 관점에서 표현의 혁신은 더 많은 데이터, 더 큰 모델, 또는 더 강력한 컴퓨팅 파워에 의해서만 추진되는 것이 아니라, 지속적인 설명적 격차 (Explanatory gaps), 즉 표현이 관찰값을 여전히 기술할 수는 있지만 그 조직이나 변환을 더 이상 이해 가능하게(Intelligible) 만들 수 없는 상황에 의해서도 추진됩니다. TBER은 설명적 불충분성 (Explanatory insufficiency)을 표현 전환을 위한 긍정적인 신호로 식별합니다. 표현이 불충분해지는 이유는 그것이 반드시 틀렸기 때문이 아니라, 그 설명 영역 (Explanatory domain)이 초과되었기 때문입니다. 부트스트랩 역학 (Bootstrap dynamic)은 재귀적 시퀀스를 따릅니다: 관찰이 이상 징후 (Anomalies)를 드러내고, 이상 징후가 불충분성을 노출하며, 불충분성이 새로운 표현을 동기 부여하고, 이러한 새로운 표현이 추가적인 관찰과 발생 가능한 새로운 불충분성을 생성합니다. 우리는 이 과정을 다섯 단계로 공식화합니다: 안정화된 관찰 (Stabilized observation), 이상 징후 탐지 (Anomaly detection), 설명적 불충분성의 인식 (Recognition of explanatory insufficiency), 표현의 발현 (Representational emergence), 그리고 잠정적 안정화 (Provisional stabilization). 우리는 표현 학습, 잠재 공간, 파운데이션 모델, 세계 모델, 디지털 트윈, 적응형 생물학적 시스템, 그리고 과학적 발견에 대한 응용 사례를 논의합니다. TBER은 미래의 AI 시스템이 자체 내부 표현의 설명적 한계를 탐지하는 메커니즘을 통해 이익을 얻을 수 있음을 시사합니다.