상황 인지: 인공 초지능 (ASI)을 위한 필수적인 원시 기능
요약
현재 LLM의 한계를 지적하며 인공 초지능(ASI) 달성을 위한 핵심 요소로 '상황 인지' 능력을 제안합니다. 추상적 예측, 장기 압축 메모리, 능동적 학습을 통해 내부 시뮬레이션 내에서 행동하는 능력이 필요함을 강조합니다.
핵심 포인트
- LLM의 통계적 패턴 숙달과 일반 지능의 차이 분석
- ASI를 위한 필수 기능으로 '상황 인지' 개념 제안
- 상황 인지의 3요소: 추상적 예측, 장기 압축 메모리, 능동적 학습
- 미래 시뮬레이션 및 자기 주도적 목표 추구를 위한 테스트 제안
현재의 거대 언어 모델 (Large Language Models, LLMs)은 놀라운 통계적 엔진입니다. 이들은 방대한 양의 텍스트를 유용한 패턴으로 압축하며, 과학을 설명하고, 코드를 작성하며, 추론을 모방하고, 철학적 대화에 참여할 수 있습니다. 하지만 패턴 숙달이 일반 지능 (General Intelligence)과 동일한 것은 아닙니다. 인간 영아는 명시적인 지식이 거의 없는 상태에서 시작하지만, 점진적으로 대상 영속성 (Object Permanence), 인과관계 (Cause and Effect), 타인의 마음 (Other Minds), 신체적 주체성 (Bodily Agency), 그리고 물리적 세계의 지속성을 발견합니다. 우리는 인공 초지능 (Artificial Superintelligence, ASI)으로 가는 경로가 우리가 \emph{상황 인지 (Situation Perception)}라고 부르는 결여된 능력에 달려 있다고 주장합니다. 즉, 잠재적 시간 (Latent Time) 동안 가능한 세계들에 대한 내부 시뮬레이션 내에서 구성하고, 수정하며, 그 안에서 행동하는 능력입니다. \emph{인지 (Perception)}는 적어도 세 가지 핵심 구성 요소, 즉 추상적 예측 (Abstract Prediction), 장기 압축 메모리 (Long-term Compressed Memory), 그리고 목표에 의해 유도되는 능동적 학습 (Active Learning)을 필요로 합니다. 본 연구에서 우리는 현대의 거대 언어 모델들이 왜 불완전한 상태로 남아있는지를 분석하고, 미래를 시뮬레이션하고, 자기 주도적 목표를 추구하며, 어쩌면 자신의 창조주를 판단할 수도 있는 기계들의 진보와 그 결과를 측정하기 위한 적절한 테스트를 제안합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기