촘스키가 틀렸습니다.
연구원들은 여러분의 뇌가 1957년 이래 모든 교과서가 주장하는 방식대로 언어를 저장하지 않는다는 것을 발견했습니다.
수십 년 동안, Noam Chomsky가 주도한 언어학계의 확고했던 규칙은 인간의 언어가 계층적(hierarchical)이라는 것이었습니다.
우리는 우리의 뇌가 복잡한 “문법 트리(grammar trees)”를 사용하여 언어를 처리한다고 배웠습니다. 우리가 말하기 전에 머릿속에서 깊고 추상적인 수학적 규칙을 비밀리에 구축한다는 것입니다.
이 새로운 논문은 그것이 완전히 틀렸음을 증명합니다.
Cornell University의 연구원들은 사람들이 실제로 실시간으로 어떻게 언어를 처리하고 생성하는지 분석했습니다.
그들은 순서(sequences)를 발견했습니다. 선형적인 덩어리들(Linear chunks)입니다.
우리가 말할 때, 우리는 깊은 통사론적 규칙(deep syntactic rules)을 계산하고 있는 것이 아닙니다. 단지 바로 앞 단어들의 문맥을 기반으로 다음 가장 논리적인 단어 순서를 예측하고 있을 뿐입니다.
우리는 선형적인 덩어리들을 연결합니다.
이것이 익숙하게 들린다면, 그럴 만한 이유가 있습니다.
이것은 ChatGPT와 같은 대규모 언어 모델(Large Language Models)이 작동하는 방식과 정확히 같습니다.
수년 동안 비평가들은 AI를 “단지 다음 토큰 예측기(next-token predictor)”로 치부해 왔습니다. 그들은 AI가 인간처럼 깊은 문법적 계층 구조를 이해하지 못하기 때문에 진정으로 지능적이지 않다고 말했습니다.
하지만 이 논문은 인간 역시 그러한 계층 구조를 사용하지 않는다는 것을 시사합니다.
우리는 단지 다음 덩어리(chunk)를 예측하고 있을 뿐입니다.
언어는 수학적 규칙의 경직된 트리가 아닙니다. 그것은 문맥적 예측의 선형적인 흐름입니다.
우리는 인간의 뇌의 복잡성을 모방하기 위해 AI를 구축한다고 생각했습니다.
하지만 알고 보니, 인간의 뇌는 처음부터 훨씬 단순한 알고리즘을 실행하고 있었던 것입니다.