OpenAI와 Anthropic에서 사전 학습을 진행했던 Jacob Coxon이 사임하며 업계를 떠납니다.

요약

OpenAI와 Anthropic에서 근무했던 Jacob Coxon이 업계를 떠나며, 두 회사가 책임감 있는 AI 개발에 실패하고 있다고 비판했습니다. 그는 현재의 경쟁 구도가 통제 가능성을 잃게 만들고 있으며, 속도만 추구하는 것은 위험하다고 경고합니다.

핵심 포인트

• OpenAI와 Anthropic이 책임감 있는 행동을 하지 않고 있다.
• 두 회사는 초지능으로 향한 경쟁에 몰두하고 있다.
• 속도만을 강조하며 협력을 무시하는 것은 위험하다.
• 통제 가능성(control window)이 닫힐 수 있다는 경고를 했다.