정신적 세계 모델링 (Mental World Modeling)
요약
기존 세계 모델이 물리적 상태에만 집중하던 한계를 넘어, 에이전트의 믿음, 의도, 감정 등 정신적 상태를 핵심 요소로 포함하는 '정신적 세계 모델링(MWM)' 프레임워크를 제안합니다. 이를 구현한 MENTIS는 학습이 필요 없는 검사 가능한 베이스라인으로, 인간의 의사결정을 예측하는 데 정신 상태 모델링이 필수적임을 입증했습니다.
핵심 포인트
- 물리적 상태와 정신적 상태를 결합한 새로운 세계 모델링 프레임워크 MWM 제안
- MENTIS 구현을 통해 상태 파싱부터 가치 평가까지의 전 과정을 검사 가능하게 설계
- LLM 기반 세계 모델 실험 결과, 정신 상태 모델링이 인간 결정 예측의 핵심임을 확인
- 단순 물리 시뮬레이션을 넘어 마음을 시뮬레이션하는 차세대 세계 모델링 방향 제시
세계 모델 (World models)은 계획과 행동을 위한 예측 기질 (predictive substrate)을 가능하게 하지만, 기존의 공식화는 단지 물리적인 질문, 즉 '그것이 무엇인지/어디에 있는지, 그리고 어떻게 진화할 것인지'에 대해서만 답합니다. 그러나 인간의 행동은 숨겨진 정신 상태 (mental state; 한 사람이 믿고, 원하고, 의도하고, 느끼고, 사회적으로 허용된다고 생각하는 것)에 의해 구동됩니다. 따라서 물리적 장면은 추적하지만 각 에이전트가 그 장면에 대해 무엇을 알고 믿는지 추적하지 않는 모델은, 겉보기에 올바른 장면에 대해 잘못된 행동을 예측하게 됩니다. 우리는 정신적 변수 (mental variables)를 사후적 근거 (posthoc rationales)가 아닌 세계 모델의 핵심 구성 요소로 만드는 일반적인 이론적 프레임워크인 정신적 세계 모델링 (Mental World Modeling, MWM)을 공식화합니다. MWM은 결합된 물리적-정신적 세계 상태 (coupled physical-mental world state)를 유지하고, 목표 특화적 부분 관측 (target-specific partial observation)을 렌더링하며, 후보 행동들이 두 구성 요소를 어떻게 공동으로 업데이트하는지 시뮬레이션합니다. 우리는 이 프레임워크를 MENTIS로 구현하였으며, 이는 상태 파싱 (state parsing), 목표 관측 생성 (target-observation generation), 행동 분해 (action decomposition), 결합된 물리적 및 정신적 전이 (coupled physical and mental transition), 그리고 브랜치 수준 가치 평가 (branch-level value evaluation)로 프로세스를 분해하는 학습이 필요 없는 (training-free) 완전 검사 가능한 (fully inspectable) 베이스라인입니다. 텍스트, 이미지, 소리가 포함된 비디오 이야기를 아우르는 수동 구축 및 품질 관리된 상황적 의사결정 시나리오 데이터셋을 통해, 8개의 현대적인 LLM 기반 세계 모델을 대상으로 한 실험 결과, 정신 상태를 명시적으로 모델링하는 것이 인간의 결정을 예측하는 데 필수적임을 입증했습니다. 심층 분석을 통해 현재의 정신적 세계 모델링의 병목 현상 또한 추가로 드러냈습니다. 우리는 MWM이 물리적 장면을 시뮬레이션하는 단계에서 그 안에서 행동하는 마음을 시뮬레이션하는 단계로 나아가는 세계 모델링의 다음 단계가 될 것으로 기대합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기