대화를 넘어선 마음 이론(Theory of Mind)과 설득: 계획 및 행동을 통해 신념 상태를 유도하는 LLM의 능력 평가

요약

LLM이 대화 없이 행동만으로 타인의 신념을 유도하는 '비대화형 계획 마음 이론(NCP-ToM)' 능력을 평가한 연구입니다. GPT-5 등 프런티어 모델을 대상으로 실험한 결과, 일부 모델이 인간을 능가하는 사회적 추론 능력을 보였으나 안전성 및 정렬 측면의 추가 연구가 필요함을 시사합니다.

핵심 포인트

• 수동적 질의응답을 넘어 행동 기반의 마음 이론(ToM) 평가 프레임워크 제안
• NCP-ToM을 통해 에이전트의 사회적 추론 및 신념 유도 능력 측정
• GPT-5가 인간보다 높은 성공률을 보이며 뛰어난 에이전트 능력을 입증
• 모델들이 참인 신념 유도에 더 강점을 보이며 정렬(Alignment) 가능성 확인
• 자율적 에이전트의 조작 및 오정보 위험에 대한 안전성 평가 중요성 강조