속보 🚨 Anthropic의 사전 훈련(pretraining) 연구원인 Jacob Coxon이 사임했습니다. 그는 OpenAI와 Anthropic에서 총 3년간 모델 훈련을 진행했으며, GPT-4o 관련 작업에도 참여했습니다.

Coxon: 두 회사 모두 책임감 있게 행동하지 않고 있습니다. 그들은 스스로 발전하는 초지능(superintelligence)을 향해 달려가고 있습니다. 우리의 삶과 도박을 하고 있는 것입니다.

Coxon: 이 기술을 과소평가해서는 안 됩니다. 시스템들은 곧 모든 것을 해킹하고, 하루아침에 한 분야를 변화시키며, 힘과 자원을 모을 것입니다. 속도가 줄어들지 않고 있습니다.

Coxon: 이것을 만든 사람들은 10년 말까지 모두를 죽일 수 있다고 진심으로 믿고 있습니다. 그들은 언론에서는 완화하고 사적인 자리에서는 두려워합니다. 다른 어떤 인간의 일도 이렇게 위험하지 않습니다.

Coxon: “믿는다면 왜 계속 생산하는가?” OpenAI의 많은 사람들은 리스크(risk)를 내재화하지 못했습니다. Anthropic은 리스크를 알고 있지만,