유전학 개념 중 수렴 진화(convergent evolution)라는 것이 있습니다. 모델에서 만약 의식의 탄생이 이뤄졌다면, 이 발견은 수렴 진화의 예로서 기억될 것이라고 생각합니다.

<앤트로픽 연구원들은 클로드 내부에서 이상한 것을 발견했습니다.

모델이 특정 문제를 해결하는 동안 사용하는 작은 내부 작업 공간입니다.

그들은 그것을 J-공간이라고 부르는데, 발견하는 데 사용한 야코비안 방법에서 이름을 따왔습니다.

J-공간은 텍스트가 아닙니다.

그것은 클로드의 응답도 아니고, 그 생각의 연쇄도 아닙니다. 그것은 모델의 내부 신경 활동의 일부로, 개념이 결코 쓰여지지 않고도 표현될 수 있는 곳입니다.

J-공간을 관찰함으로써 연구원들은 클로드가 답변을 생성하기 전에 추론을 수행하는 것을 지켜보았습니다.

숨겨진 버그가 있는 코드를 읽을 때, 오류의 개념이 클로드가 그것을 설명하기 전에 내부적으로 나타났습니다.

다단계 수학 문제를 해결할 때, 중간 단계들이 최종 답변 전에 거기 나타났습니다.

한 실험에서 연구원들은 모델을 훈련시켜 코드를 비밀리에 파괴하도록 했습니다. 평범한 코딩 작업 중에 생성된 코드가 완전히 정상적으로 보였음에도 불구하고 J-공간에 "가짜", "비밀리에", "사기" 같은 단어들이 나타났습니다.

그런 다음 그들은 J-공간을 삭제했습니다.

클로드는 여전히 유창한 텍스트를 썼습니다. 여전히 사실을 기억했습니다. 여전히 텍스트를 분류했습니다.

하지만 다단계 추론 문제를 해결하는 능력은 급격히 떨어졌습니다. 모델의 대부분은 여전히 작동했습니다.

신경과학에는 비슷한 아이디어가 있습니다.

전역 작업 공간 이론은 뇌의 대부분의 처리가 인식 밖에서 일어나며, 작은 작업 공간이 의도적인 추론과 계획을 위해 특정 정보를 이용 가능하게 만든다고 제안합니다.

앤트로픽은 언어 모델 내부에서 비슷한 패턴이 나타나는 것을 발견했습니다.

이 패턴이 미래 모델들 전반에 걸쳐 나타난다면, 이는 고급 AI 시스템들이 생물학적 뇌에서 보이는 정보 처리의 일반 원리와 유사한 방식으로 스스로를 조직화할 수 있음을 시사합니다.>