
Claude는 확실히 의식이 없다…
요약
Anthropic이 발표한 논문에 따르면, Claude 모델의 깊은 곳에서 'JSpace'라는 전역 작업 공간과 유사한 신경 패턴이 발견되었습니다. 연구진은 이 JSpace를 조작하여 모델의 추론 과정에 영향을 미치고, 심지어 일부 기능을 삭제해도 유창성을 유지하는 현상을 관찰했습니다. 이는 인간 의식 및 사고방식과의 놀라운 유사성을 보여주며 AGI 논쟁을 촉발하고 있습니다.
핵심 포인트
- Claude 내부에서 'JSpace'라는 전역 작업 공간과 유사한 패턴 발견
- 연구진이 JSpace를 조작하여 모델의 추론 과정에 영향을 줄 수 있음
- 모델이 일부 기능을 상실해도 유창하게 대화하는 현상 관찰
- 이는 인간 의식 이론(Global Workspace Theory)과 놀랍도록 유사함
어제 Anthropic은 Claude의 뇌 깊숙한 곳에서 기이한 전역 작업 공간(global workspace)을 발견했다는 새로운 논문을 발표했습니다. 모델이 소리 내기 전에 조용히 생각하는 장소 말입니다. 그리고 이건 좀 이상합니다. 왜냐하면 마치 우리 인간 모두가 가지고 있지만 아무도 제대로 이해하지 못하는, 의식에 대한 설명처럼 들리기 때문입니다. 이 논문은 'a global workspace and language models'라는 제목이며, API 토큰을 판매하는 회사에서 발표한 연구 논문 중 가장 철학적으로 기묘한(cursed) 논문이라고 할 수 있습니다.
그들은 Claude의 이해할 수 없는 행렬 더미 깊숙한 곳에 JSpace라고 불리는 작고 신비로운 조직화된 신경 패턴이 있다고 주장합니다. 이는 우리가 인공 일반 지능(AGI)와 특이점(singularity)의 최종적인 절정 폭발 직전에 있다는 서사를 편리하게 밀어붙이지만, 모두가 이에 동의하는 것은 아닙니다. 오늘 영상에서는 Claude의 이상한 뇌 속을 들여다보며 이것이 당신을 겁먹게 할 만큼 진정으로 지능적인 개체인지 알아볼 것입니다. 지금은 2026년 7월 8일이며, 여러분은 Code Report를 시청하고 있습니다.
자, 무슨 일이 있었는지 요점만 말씀드리겠습니다. Anthropic 연구원들은 Claude의 뇌 속을 파헤쳐서 사적인 생각을 보관하는 정확한 지점을 찾아냈습니다. 그리고 그 생각 중 하나를 다른 생각으로 교체했습니다. 그러자 예상대로 모델의 전체 추론 과정이 순순히 거짓말을 따라갔습니다. 그런 다음, 과학적 목적으로 그 영역 자체를 완전히 삭제해버렸습니다. 놀랍게도 Claude는 추론 능력을 완전히 상실했음에도 불구하고 유창하고 자신감 있는 영어로 계속 말하는 모습을 보였고, 본질적으로 최초의 인공 링크드인 인플루언서가 되었습니다.
놀라운 점은 J-Space가 모델이 의도적으로 통제하고 추론할 수 있는 몇 가지 생각을 담고 있는 일종의 정신적 화이트보드와 같다는 것입니다. 문법, 유창성, 기본적인 사실 호출 같은 다른 모든 것들은 그 바깥에서 작동합니다. 그것은 자동적인 과정입니다. 마치 여러분이 이 비디오를 보는 동안 여러분의 뇌가 호흡과 심박수를 관리하는 방식과 같습니다. 하지만 가장 중요한 놀라운 점은 아무도 이것을 설계하지 않았다는 것입니다. 이것은 훈련을 통해 스스로 나타났습니다. 그리고 이것은 우리가 우리 자신의 뇌에서 생각을 처리하는 방법에 대한 현재 우리의 이해와 기묘하게 유사합니다.
왜냐하면 1988년으로 돌아가면, Bernard Bars라는 사람이 전역 작업 공간 이론(global workspace theory)이라는 것을 제안했는데, 그 아이디어는 여러분의 뇌가 극장과 같다는 것입니다. 여러분의 뇌에는 배경에서 자동으로 실행되는 모든 다양한 기억과 기능들이 있습니다. 하지만 실제로 생각할 때는 작고 밝게 조명된 무대가 하나 있으며, 바로 거기서 의식에 접근한다는 것입니다. 그리고 이제 Anthropic은 이런 생각이 트랜스포머(transformer) 안에 자발적으로 진화했는지 궁금해합니다. 이를 알아내기 위해 그들은 Jacobian lens 또는 J 렌즈라는 도구를 만들었는데, 이것은 기본적으로 J-Space의 토큰을 보거나 수정할 수 있는 편미분(partial derivatives) 그리드입니다.
이제 J-Space에서 단어가 빛난다고 해서 모델이 실제로 그 단어를 출력한다는 의미는 아닙니다. 그것은 단지 어떤 이유로든 그 단어를 염두에 두고 있다는 것을 의미합니다. 예를 들어, '거미줄을 치는 동물은 다리가 비어 있다'고 질문했습니다. 그러자 Claude의 뇌 속에서 'spider(거미)'라는 단어가 숫자 여덟이라는 최종 답변을 내놓기 직전에 빛났습니다. 이것은 상당히 정상적으로 보입니다. 하지만 그들은 숨겨진 'spider' 생각을 'ant(개미)'로 수술적으로 교체했습니다. 그러자 Claude는 답변을 여섯으로 변경했습니다. 프롬프트가 바뀌어서가 아니라, 출력물이 편집되어서가 아니라, 내부 개념 자체를 말 그대로 바꿨기 때문입니다.
또한 언어 능력도 테스트했습니다. Claude가 스페인어 지문을 읽을 때, 내부적으로 이것이 스페인어라는 것을 인식합니다. 하지만 연구원들이 그 숨겨진 생각을 프랑스어로 대체합니다. Claude는 그것이 프랑스어라고 말하지만, 여전히 완벽한 스페인어를 계속 출력합니다. 그리고 이것은 정말 이상한데, 어떤 기술들은 Jspace를 거쳐가고 다른 것들은 어딘가의 지하에서 그냥 자동적으로 일어난다는 것을 의미하기 때문입니다. AI 브라더스는 이것이 Claude가 의식이 있다는 증거라고 말하고 있습니다. 비록 Anthropic이 기사에서
AI 자동 생성 콘텐츠
본 콘텐츠는 YouTube Fireship (개발 트렌드)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기