LLM과 자기 참조성

어제 저는 다음과 같은 생각을 하며 잠에서 깼는데, 아마도 너무 당연하거나 바보 같을 것입니다.

많은 독자들(저를 포함하여)이 젊은 시절 Douglas Hofstadter의 《괴델, 에셔, 바흐》(Gödel Escher Bach)에서 얻었던 중심 논지는 지능(따라서 AI)의 비밀이 자기 참조성(self-referentiality) 및 “이상한 고리”(strange loops)와 관련이 있을 것이라는 것이었습니다.

심지어 Roger Penrose의 《황제의 새로운 마음》(The Emperor’s New Mind) 역시 어떤 면에서는 GEB에 반대되는 작품이었지만, 아이러니하게도 AI 프로젝트 전체의 성공 또는 실패에 있어 자기 참조성의 근본적인 중요성에 대해서는 GEB와 동의했습니다. 그 책은 (제 견해와 대부분 전문가들의 의견으로는 잘못되었지만) AI가 결코 작동할 수 없을 것이라고 주장했는데, 왜냐하면 괴델의 정리(Gödel’s Theorem)와 자기 참조성에는 어떤 것이 있어서 컴퓨터 프로그램이 절대 포착할 수 없고 인간의 뇌에 접근 가능한 특이한 물리학만이 포착할 수 있기 때문이라고 했습니다.

그런데 2026년, 우리는 대부분의 지적 과제에서 인간보다 뛰어난 AI를 구축하는 데 성공했습니다. 그리고 그 AI들의 기술 스택 어느 곳에서도 — 트랜스포머 신경망(transformer neural nets)이든, 구동되는 GPU 클러스터든, 학습 과정이든, 아니면 다른 어떤 부분이든 — 아무도 자기 참조성에 대한 것을 의도적으로 구축할 필요가 없었습니다. (예를 들어, 모델의 역할과 정체성에 대해 알려주는 시스템 명령어는 지능적인 행동에 필수적이지 않다는 점은 제외합니다. 또한, 저는 LLM의 자기 회귀적 특성(autoregressive nature)을 “자기 참조적”이라고 간주하지 않을 것입니다. 그것은 단지 동적 피드백일 뿐입니다.)

물론 GPT 5.6 Pro와 Fable 같은 모델들은 자신에 대해, 괴델의 정리(Gödel’s Theorem)에 대해, 자기 참조성에 대해, 그리고 우리가 지금 이야기하고 있는 것에 대해서까지 대부분의 인간보다 더 잘 말할 수 있습니다. 하지만 어느 순간에도 아무도 그 안에 자기 참조적 능력을 구축할 필요를 느끼지 못했습니다. 그것들은 모델이 포켓몬(Pokémon), 긴 사슬 고분자(long-chain polymers), 인지 행동 치료(cognitive behavioral therapy), 판 구조론(plate tectonics) 등 모든 것에 대해 이야기할 수 있게 해준 것과 같은 사전 학습 과정의 부산물로 자연스럽게 나타났습니다.

호프스타터(Hofstadter)가 LLM의 성공에 놀라워하며, 이 글과 같은 에세이에서 현재 AI 능력에 대해 우울함을 느낀다고 말하는 것도 무리가 아닙니다. 그는 자신이 너무 똑똑해서 무슨 일이 일어났는지 부정하거나 (많은 사람들이 취한 접근 방식처럼) 그것이 실제로 중요하지 않은 이유를 지어낼 수는 없습니다. 하지만 그는 우리가 이제 GEB 세계관에서는 너무 싸고 단순하다고 여겼을, 그리고 확실히 어디에도 “이상 루프(strange loops)”가 내장되어 있지 않은 경로를 통해 진정한 대화적 지능을 갖게 되었다는 것을 깨닫습니다.

물론 호프스타터적인 관점의 사람이라면 이상 루프가 LLM에서 나타난다고 주장할 수 있습니다. 실제로 GEB에서는 이상 루프가 처음부터 명시적으로 설계되어야 한다고 말한 적은 없습니다. 하지만 GEB를 배경 지식으로 삼지 않은 사람이 이것을 LLM에 대해 유용한 사고방식으로 받아들일까요?

우리가 사후적으로 이 문제에 대해 무엇을 말할 수 있을까요? 물론 대각화(diagonalization)와 자기 참조성(self-reference)의 아이디어는 현대 수학 논리와 컴퓨터 과학의 탄생에서 중심적인 역할을 했지만, 가장 유명한 사용 사례들은 부정적이었습니다. 자연수와 실수 사이에 전단사 함수(bijection)가 존재하지 않는다. 산술에 대한 완전하고 건전한 증명 시스템은 없다. 정지 문제(halting problem)를 해결하는 알고리즘은 없다.

만약 당신의 목표가 ZFC의 공리계와 1차 논리 추론 규칙을 구축하거나, 전자 컴퓨터를 구축하는 것이었다면, 그것을 위해 자기 참조성을 명시적으로 필요로 하지는 않았을 것입니다. 그저... 구축을 시작하고, 명령어 세트(instruction set)가 보편성(universality)에 미치지 못하지 않도록 주의하기만 하면 됩니다.

네, ZFC는 자신에 대한 정리들을 형식화하고 증명할 수 있습니다. 네, 전자 컴퓨터는 자신의 코드를 입력으로 받는 프로그램을 실행할 수 있습니다. 하지만 아무도 그런 능력을 구축해야 할 필요를 느낀 적이 없었으며, 자기 참조성 역시 알파벳이나 문법 규칙에 내장되어야 할 필요가 없었습니다. 그것은 보편성의 자유로운 부산물로 튀어나왔을 뿐입니다.

마찬가지로, LLM이 자신에 대해 이야기할 수 있는 능력은 모델이 학습한 담론 우주(discourse universe)의 어떤 것에 대해서든 이야기할 수 있는 능력의 부산물로 튀어나왔습니다. 결국 정당화된 거대하고 오래된 지능에 대한 아이디어들은 지능이란 예측에 관한 것이고, 예측은 압축에 관한 것이며, 압축은 콜모고로프 복잡도(Kolmogorov complexity)에 대한 점점 더 나아지는 상한을 찾는 것에 관한 것이라는 아이디어였습니다. 자기 참조성 같은 것은 아닙니다. (물론, 콜모고로프 복잡도를 완벽하게 계산할 수 없는 이유를 알고 싶다면, 그 부정적인 진술 역시 다시 한번 자기 참조적 논리를 필요로 할 것입니다.)

남은 것은 무엇일까요? 의식(Consciousness)과 주관적 경험(subjective experience)이 물론 여전히 극도로 미스터리합니다. 우리가 아는 한, 호프스타터(Hofstadter)가 그것들이 자기 참조성과 관련이 있다는 것이 맞을 수도 있습니다. (우리가 아는 한, 심지어 펜로즈(Penrose)가 그것들이 생물학적 두뇌에는 접근 가능하지만 디지털 컴퓨터에는 불가능한 이국적인 물리학과 관련이 있다는 것도 맞을 수 있습니다!)

하지만 설득력 있고 세상을 바꿀 만한 대화 지능을 얻기 위해 명시적인 자기 참조성이 필요하다는 생각은요? 그것은 인간 역사상 가장 중요한 잘못된 아이디어들—지구 중심설(geocentrism), 아리스토텔레스의 목적론적 물리학(teleological physics), 에테르(aether), 플로지스톤(phlogiston), 프로이트의 심리학(Freud’s psychology), 마르크스의 노동자 봉기 예측에 이은 계급 없는 유토피아 등—처럼 웨스트민스터 사원이나 아링턴 국립묘지에 묻어버려야 합니다. 하지만 묻어야만 합니다.