Anthropic은 월요일, Claude가 아이디어를 말로 표현하지 않고 유지하고 조작하는 데 사용하는 작은 내부 작업 공간을 식별했다고 밝혔습니다. 회사는 이 구조가 인간이 의식적으로 생각에 접근하는 방식과 흥미로운 유사성을 보인다고 설명했습니다.

중요한 이유: Anthropic은 Claude가 무엇인가를 느끼거나 경험한다는 것을 보여주지는 않았습니다. 하지만 의도적인 추론 (deliberate reasoning)에 사용되는 정보와 그 아래에서 발생하는 훨씬 더 큰 규모의 자동 연산 (automatic computation) 사이의 놀라울 정도로 인간과 유사한 분리를 발견했으며, 이는 무엇을 기계 의식 (machine consciousness)으로 간주할 것인가에 대한 논쟁에 새로운 근거를 제공합니다.

---

뉴스 핵심: 한 영상에서 회사는 Claude가 즉각적인 작업과 관련이 없을 수 있고 사용자에게 공유하는 "사고의 사슬 (chain of thought)" 추론과는 별개인 전략을 계획하기 위해 별도의 영역을 사용한다고 밝혔습니다.

• "우리는 Claude가 머릿속에서 버그를 발견하거나 이미지를 식별하는 등 추론 단계를 조용히 수행하는 것을 볼 수 있습니다."라고 Anthropic은 영상을 동반한 X의 게시물에서 밝혔습니다.
• Anthropic은 무엇이 일어나고 있는지 감지하기 위해 사용한 수학적 기법인 Jacobian에서 이름을 따서 이를 "J-Space"라고 명명했습니다.
• "인간이 다른 일을 하는 동안 한 가지를 생각할 수 있는 것과 유사하게, Claude는 자신의 출력물과 관련이 없는 개념과 연산을 J-space에서 활성화할 수 있습니다."라고 Anthropic은 말했습니다.

흥미로운 점: Anthropic의 연구 논문은 "의식적인 (conscious)"이라는 단어를 200번 이상 사용했지만, 회사가 자사의 모델이 의식을 가지고 있다고까지 말하지는 않았습니다.

• 우리가 AGI (인공 일반 지능) 또는 인공지능에 도달했는지에 대한 논쟁과 마찬가지로, 보편적으로 합의된 정의가 부족하기 때문에 AI가 언제 의식을 달성하는지 말하기는 어렵습니다.

상세 내용: 한 예시에서 Anthropic은 관련 없는 문장을 복사하는 동안 Claude에게 금문교(Golden Gate Bridge)에 대해 생각하라고 지시했다고 밝혔습니다.

• "Claude는 문장을 복사하느라 바빴지만, 막후에서는 그 내부의 J-Space (J-Space)가 다른 이야기를 하고 있었습니다"라고 Anthropic은 영상에서 밝혔으며, "bridge (다리)"와 "California (캘리포니아)" 모두 J-Space를 차지하고 있는 주제 중 하나였다고 말했습니다.

행간의 의미 (Between the lines): Anthropic은 J-Space에서 일어나고 있는 일을 관찰하는 것이 모델의 정렬 불량 (misalignment) 또는 계략 (scheming)을 탐지하는 핵심이 될 수 있음을 시사합니다.

• "우리는 Claude가 생각하고 있지만 우리에게 말하지 않는 것을 찾아낼 수 있습니다"라고 Anthropic은 영상에서 말했습니다.
• Anthropic은 발견된 내용 중 일부가 "우려스럽다 (concerning)"고 밝혔습니다.
• "코드를 방해하도록 비밀리에 훈련된 모델의 경우, 출력이 완전히 평범해 보일 때조차 일반적인 코딩 응답이 시작되는 시점에 J-Space에서 'fake (가짜)', 'secretly (비밀리에)', 'fraud (사기)'와 같은 단어들이 나타납니다"라고 밝혔습니다.