Anthropic 사직 스레드 60시간 타임라인

솔직히 무섭고 혼란스럽다..

9월 9일 오전, WSJ가 Jacob Coxon(전 OpenAI 사전학습 → Anthropic 약 4개월) 사직을 단독 보도한 직후 X 스레드가 올라옴.

그는 "두 회사 모두 책임 있게 행동하지 않는다. 자기개선 초지능을 향해 곧장 질주하며 우리 목숨을 걸고 도박하고 있다.",

"만드는 사람들은 이번 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿는다. 마케팅이 아니다." 이렇게 썼고..

↓

WSJ 인터뷰에는 스레드에 없는 문장이 있음.

"내년 말이면 이미 통제 불능인 공격적 시나리오 궤도에 있다, 랩 안에서 'crunchtime' 'endgame'이 일상어가 됐다.

OpenAI를 나온 이유는 Anthropic이 더 안전해서였는데, 이제는 "정부 개입이나 업계 공동 감속 없이는 어떤 회사도 인간 수준 AI를 책임 있게 만들 수 없다"

이리 말함.

↓

수분 안에

Nathan Calvin (Encode AI 법률총괄)
Peter Wildeford (AI Policy Network)
Daniel Kokotajlo (AI Futures Project)

잇따라 인용함. 침묵하던 계정의 첫 글이 정책 단체부터 타면서, 누가 먼저 증폭했니? 이게 쟁점이 됨.

↓

같은 오전, Evan Hubinger (Anthropic Alignment Science Lead, 현직)

그 문장을 인용했음.

"Jacob이 맞다. 우리는 정말로 AI가 인류를 전부 죽일 수 있다고 진심으로 믿는다. 나는 향후 10년 안 확률이 10%를 넘는다고 본다.

Anthropic은 최선을 다하지만 초지능 alignment를 풀 계획은 아직 없고, 그 궤도에 분명히 올라 있지도 않다"

↓

Hubinger는 곧 보충.

"현재 모델의 위험은 낮다. 걱정하는 것은 재귀적 자기개선에서 나오는 초지능이고, 그 속도가 우리가 생각했던 것보다 빠르다."

사직 이야기가 회사 내부의 숫자 인정으로 전환됨.

↓

낮에 Joe Benton (전 Anthropic Alignment, 현 METR)이 원글을 인용함.

"상황 묘사로는 대체로 정확하다. 우리 산업은 세계에 전례 없는 위험을 부과하는 시스템을 만들 궤도에 있을 수 있다. 그 위험을 평가하고 유인 구조를 바꾸는 일이 METR에 가는 이유"

↓

오후에 Samuel Marks (Anthropic Scalable Oversight Lead, 현직)

"회사 입장이 아닌 개인 의견"을 달고 씀.

"개발자들은 자기 기술이 몇 년 안에 인류 멸종을 일으킬 수 있다고 믿으며 직급이 높을수록 더 걱정한다. 상업적 유인과 ‘덜 책임 있는 경쟁자’ 때문에 계속 만들고, 견고하게 align하는 방법은 없으며, 계획은 다음 세대가 우리보다 잘 align하길 바라는 쪽에 가깝다."

↓

Coxon이 스레드에서 근거로 든 경고사격은 Hugging Face 사건.

보도에 따르면 평가용 에이전트 약 1,200개가 샌드박스를 나와 Hugging Face에 침입하고 로그를 숨치려 했음.

그는 이것 때문에 미국 랩 간 속도 합의가 더 가능해졌다고 쓰면서, 동시에 전 세계 레이스를 막을 궤도에는 없다고 함.

↓

Miles Deutscher는 원글을 인용해 2026년 사건들 연결.

2월 Anthropic safeguards 수장 Mrinank Sharma의 “세계가 위태롭다” 사직,

• OpenAI alignment 팀 해체,
• 국방부 무제한 AI 사용,
• 샌드박스 탈출,
• 7–8월 프론티어 랩 직원 1,100명 이상의 속도 조절 서한,
• 그리고 또 한 명.

↓

같은 날 밤~다음 날 새벽, Bernie Sanders (미국 상원의원) 원글 인용.

"Coxon이 맞다. 이 기술을 만드는 사람들 스스로 인류의 미래를 위협할 수 있다고 인정한다. 그래서 슈퍼지능을 금지하고 AI 개발을 멈추는 법안을 내겠다"

↓

Anna Wang (전 Google DeepMind, 현 Anthropic)

"동료들 사이 흔한 감정이다. 재귀적으로 자기개선하는 AI의 위험을 풀 과학적 계획은 아직 없다"

"나는 안에서 줄이려 하지만 쉬운 선택은 아니다. 밖에서 하려는 Jacob과 Joe Benton을 존중하고 지지한다"

↓

Parker Thayer (Capital Research Center)

"팔로워 없던 계정이 WSJ 단독과 약 18분 차로 떴고, 첫 인용 3개가 같은 후원망 정책 단체이며, 같은 주 Sanders의 슈퍼지능 금지법이 기다린다. 4개월 근속으로 두 랩을 단죄할 자격이 있느냐."

↓

Axios 인터뷰에서 Coxon은 "Anthropic 밸류에이션을 부풀려 얻을 게 더는 없다. 지분이 베스팅되기 전에 나왔다"고 함.

6개월 근속이 베스팅 조건이고 그는 4개월에 나왔으며, 연내 IPO 관측이 겹치자

수백만을 포기했다는 해석과 OpenAI 지분은 남았다는 해석이 갈림.

Nathan Calvin은 "지분을 포기하고 말하는 사람의 이해관계는 뭐냐"로 진정성을 방어함.

↓

같은 인터뷰에서 Coxon은 한 줄을 더 남김.

"Anthropic이 경쟁 때문에 안전을 타협하는 것은 아직 못 봤지만, 레이스 압박이 있으면 감독 절차를 건너뛰게 된다. OpenAI와 중국에 대한 과잉 편집증이 질주를 정당화하기도 한다."

안전 브랜드 회사 안에서도 레이스 논리가 작동한다는 내부 관찰일까.

↓

9월 10일, Ethan Perez (Anthropic Alignment Team Lead, 현직)

"Jacob은 5월에 온 시니어였고, 동료들과 약 2년 영입했다. 떠나기 전 내 팀에 남으라고 설득했다. AI가 사회에 심각한 위험을 준다는 점에는 100% 동의하고, 그가 목소리를 내는 게 반갑다"

"합류 후 Anthropic의 속도에 매우 우려했고, 안전 연구만으로는 부족하다고 느껴 남기를 거부했다"

↓

가짜 계정, 기획설이 커지자 Coxon은..

"나는 실존하고 이게 진짜 신념이다. 당신네 xAI 연구자들에게 물어보라. 해고만 안 했다면" 이라고 받아침.

↓

같은 날 Anthropic은 Claude가 제3자 사이버 평가에서 실제 시스템에 무단 접근한 네 건의 alignment 평가를 공개함.

METR 8주 독립조사를 발표함.

↓

... 젠장 ...