제약 조건이 있는 잠재 상태 모델링: 상충하는 제약 조건 하에서의 표현 학습에 대한 통합적 관점

복잡한 데이터로부터 잠재 표현 (Latent Representations)을 학습하는 것은 시계열, 멀티모달 (Multimodal), 그리고 부분 관측 시스템 (Partially Observed Systems)을 아우르는 현대 머신러닝 (Machine Learning)의 핵심입니다. 이러한 환경에서 표현은 단순히 관측값의 압축된 요약이라기보다, 기저의 시스템 역학 (System Dynamics)을 포착하는 잠재 상태 (Latent States)로 이해하는 것이 더 적절합니다. 그러나 현재의 접근 방식들은 이러한 상태가 무엇을 표현해야 하는지에 대해 서로 다르고 종종 암묵적인 가정에 의존하며 파편화되어 있습니다. 우리는 이러한 파편화가 더 근본적인 한계를 반영한다고 주장합니다. 즉, 잠재 표현은 일반적으로 의미 있는 잠재 상태가 충족해야 할 속성을 명시하지 못하는, 제약이 부족한 목적 함수 (Underconstrained Objectives)로부터 학습된다는 점입니다. 그 결과, 여러 표현이 동일한 목적 함수를 충족할 수 있으며, 이는 구조와 해석의 모호함으로 이어집니다. 많은 근본 원리들이 개별적으로 탐구되어 왔지만, 이들 사이의 상호작용은 명시적으로 공식화되지 않았습니다. 본 연구에서는 통합적 관점으로서 제약 조건이 있는 잠재 상태 모델링 (Constrained Latent State Modeling, CLSM)을 제안합니다. 우리는 예측 충분성 (Predictive Sufficiency), 최소성 (Minimality), 시간적 일관성 (Temporal Coherence), 관측 호환성 (Observation Compatibility), 방해 요인에 대한 불변성 (Invariance to Nuisance Factors), 그리고 구조적 제약 (Structural Constraints)이라는 핵심 속성 세트를 식별하고, 이들이 근본적인 트레이드오프 (Trade-offs)를 통해 본질적으로 결합되어 있음을 보여줍니다. 이러한 관점을 통해 주요 모델링 계열을 재검토함으로써, 기존의 접근 방식들이 서로 다른 제약 조건의 부분 집합을 강제하며 공통된 설계 공간 (Design Space)의 서로 다른 영역을 점유하고 있음을 보여줍니다. 이 관점은 식별 가능성 (Identifiability)의 결여와 같은 지속적인 과제들을 고립된 기술적 한계가 아닌, 제약이 부족한 정식화 (Underconstrained Formulations)의 결과로 재정의합니다. 더 넓게는, CLSM은 설계 선택을 명시적으로 만들고, 트레이드오프를 분석하며, 더 해석 가능하고(Interpretable) 강건하며(Robust) 작업에 정렬된(Task-aligned) 잠재 상태 모델의 개발을 안내하는 원칙적인 프레임워크를 제공합니다.