🚨 OpenAI와 Anthropic에서 사전 학습(pretraining)을 했던 Jacob Coxon이 사임했습니다. 그는 이 업계 자체를 떠나고 있습니다.

핵심 주장은 명확합니다: 두 연구소 모두 책임감 있는 행동을 하지 않고 있습니다.

그들은 스스로 발전하는 초지능(superintelligence)으로 향한 경쟁을 벌이고 있습니다.

OpenAI 측에서는 위험에 대한 인식이 아직 내재화되지 않았습니다.

Anthropic의 경우, 위험은 인식했지만 '다른 사람이 책임감 있게 행동하지 않으니 우리가 1등이어야 한다'는 순환 고리에 갇혀 있습니다.

조율(Alignment)을 사설 회사 Slack에서 스피드런(speedrun)하는 것은 문명화된 도박이 아닙니다.
이 연구소 내부에서 나온 이 발언은 마케팅 문구가 아닙니다.

협력 없이 속도만 빨라진다면 통제 가능성(control window)은 닫히게 됩니다.