사전 학습 (Pre-training)은 현대 머신러닝 (Machine Learning)의 근본적인 패러다임이 되었으며, 그 주요한 경험적 이점 중 하나는 사전 학습 데이터의 규모가 커짐에 따라 다운스트림 (Downstream) 샘플 복잡도 (Sample Complexity)가 감소한다는 것입니다. 그러나 기존의 사전 학습에 대한 이론적 프레임워크 (Theoretical Frameworks)는 이러한 현상을 완전히 설명하지 못합니다. 본 논문에서는 이러한 스케일링 (Scaling) 동작의 이론적 분석을 가능하게 하도록 설계된 새로운 메타 표현 학습 (Meta-representation Learning) 프레임워크인 복잡도 최소화 (Complexity Minimization)를 소개합니다. 이 프레임워크는 각 도메인에 가장 적합한 다운스트림 모델 복잡도를 평가하고, 소스 도메인 (Source Domains) 전반에 걸쳐 최악의 경우(Worst-case)의 해당 복잡도를 최소화함으로써 표현 (Representations)을 학습합니다. 사전 학습부터 다운스트림 회귀 (Downstream Regression)에 이르는 우리의 엔드투엔드 (End-to-end) 이론적 분석은 이 프레임워크가 이러한 스케일링 동작을 증명 가능하게 포착함을 보여줍니다. 특히, 우리는 메타 학습 (Meta-training) 데이터의 양이 증가함에 따라 퓨샷 적응 (Few-shot Adaptation)의 오류율이 개선됨을 보여줍니다. 경험적으로, 우리는 복잡도 정규화 (Complexity Regularization)를 기존의 메타 학습 (Meta-learning) 방법론에 통합하는 것이 다운스트림 샘플 효율성 (Sample Efficiency)을 일관되게 향상시킨다는 것을 입증합니다.