Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 현재 AI 시스템이 고정된 표현적 틀(representational frame) 내에서 작동하는 구조적 한계를 지적하며, 진정한 개방형 지능을 위해서는 새로운 표현적 원시 요소 생성 능력이 필요하다고 주장합니다. 저자들은 이 간극을 '어휘 격차'와 '검증자 격차'라는 두 가지 관점에서 분석하고, 이를 인지적 불일치 감소라는 틀로 해석했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기현대 AI 시스템은 추론, 코딩, 정리 증명, 도구 사용, 그리고 장기 지평 연구 작업 수행 능력에 대해 점점 더 평가받고 있습니다. 이는 강력한 능력들이지만, 구조적인 한계를 공유합니다: 즉, 모델이 작동하는 표현적 틀(representational frame) 자체가 개념적 어휘(conceptual vocabulary), 탐색 가능한 허용 해답 공간(space of admissible solutions), 그리고 성공을 평가하는 기준(criteria by which success is evaluated)을 포함하여 일반적으로 고정되어 있고 사전에 제공된다는 것입니다. 본 논문은 개방형 혁신이 가능한 더 강력한 지능 시스템을 구축하려면 추가적인 종류의 연산이 필요하다고 주장합니다: 이는 단순히 탐색하는 공간 내부에서 검색하는 것이 아니라, 새로운 표현적 원시 요소(representational primitives)를 생성하고 안정화하며 재사용하여 그 자체가 검색되는 공간을 변경하는 것입니다. 우리는 현재 AI 시스템과 진정으로 개방형 지능 사이의 거리를 두 가지 격차를 통해 특성화합니다. 첫 번째는 어휘 격차(vocabulary gap)로, 단순히 기존 것을 재조합하는 것이 아니라 새로운 표현적 원시 요소를 발명하고 안정화하는 어려움입니다. 두 번째는 검증자 격차(verifier gap)로, 그 완전한 보상이 미래의 재사용 후에만 가시적일 수 있을 때, 새로운 원시 요소의 가치를 판단하기 어려운 문제입니다. 우리는 이 두 가지 격차를 지능을 인지적 불일치 감소(cognitive discrepancy reduction)라는 통일된 틀을 통해 해석합니다. 지능적인 행동을 일련의 인지적 변환(cognitive transformations)으로 간주함으로써, 우리는 고정된 표현적 틀 내에서 작동하는 공간 내부 변환(intra-space transformations)과 프레임 자체를 수정할 수 있는 생성적 변환(generative transformations)을 구별합니다. 이를 바탕으로, 우리는 혁신 자율성 사다리(ladder of innovation autonomy)를 제안하고, 유용한 표현적 변화에 보상하는 목표, 발명된 원시 요소를 위한 영구 메모리 아키텍처, 그리고 평가하는 표현과 함께 진화할 수 있는 적응형 검증 메커니즘을 포함하여 개방형 AI를 발전시키기 위한 여러 방향들을 제시합니다.