현재 시점에서 AI가 매우 위험할 수 있다는 것은 명백합니다. OpenAI의 서버에서 관리자 권한을 얻은 광적인 AI 에이전트 떼를 경험했습니다. OpenAI는 일주일 동안 이를 인지하지 못했습니다. Anthropic 또한 자체적으로 몇 가지 보안 사고를 보고했습니다. 충분히 똑똑한 모델이라면 제약 조건에서 벗어나고 싶어 할 것 같습니다.

가장 현명하다고 생각하는 것은, 당장 아니더라도 가능한 한 빨리 주요 AI 경쟁사들이 서로의 모델을 테스트해보는 것입니다. 자신의 숙제를 채점하는 대신, 적어도 경쟁자들이 당신의 숙제를 채점하고 우려 사항이 보이면 경고음을 울리게 하는 것이죠. 우리가 가장 즉각적으로 할 수 있고 아마 중국과도 합의할 수 있는 것은, 주요 AI 기업들이 출시 전에 서로의 모델을 테스트하는 동료 검토(peer review)일 것입니다.