AI가 의식을 가졌다는 뉴스가 도는데, 앤트로픽이 실제로 찾은 건 정반대다.

요약

앤트로픽(Anthropic)이 Claude 내부의 'J-space'라는 작업공간을 발견했습니다. 이는 뇌과학의 전역 작업공간 이론과 유사하며, AI가 실제로 처리하고 의식적으로 다룰 수 있는 정보는 전체 연산 중 극히 일부임을 수치로 보여줍니다.

핵심 포인트

AI의 '의식' 여부보다 병목 현상 분석이 중요함.
Claude가 인지적 작업공간(J-space)을 가지고 있음이 확인됨.
모델이 실제로 다룰 수 있는 정보는 전체 연산의 6~10%에 불과함.

AI가 의식을 가졌다는 뉴스가 도는데, 앤트로픽이 실제로 찾은 건 정반대다.

앤트로픽이 클로드 내부에서 'J-space'라는 작은 작업공간을 찾아냈다. 인지과학의 전역 작업공간 이론, 그러니까 뇌는 수많은 연산을 동시에 돌리지만 정작 의식에 올라오는 건 극히 일부라는 그 구조와 똑 닮았다.

핵심은 수치다. 클로드가 실제로 보고 다룰 수 있는 생각은 전체 활동의 6~10%뿐이고, 한 순간에 붙잡는 개념은 수십 개 남짓이다. 나머지 90% 넘는 연산은 모델 자신도 못 보는 무의식의 바다다.

그래서 이 연구의 진짜 값어치는 의식이 아니라 병목에 있다. 모델 안에서 사람이 들여다보고 통제할 수 있는 창이 생각보다 훨씬 좁다는 걸 처음으로 수치로 못박았다. 앤트로픽조차 이게 클로드가 뭔가를 느낀다는 증거는 아니라고 분명히 선을 그었다. AI 안전과 해석의 승부는 의식이 있느냐가 아니라, 이 좁은 창을 얼마나 넓히고 읽어내느냐에서 갈린다.

AI 자동 생성 콘텐츠

원문 바로가기

AI가 의식을 가졌다는 뉴스가 도는데, 앤트로픽이 실제로 찾은 건 정반대다.

요약

핵심 포인트

댓글