“모델은 악하지 않았고 적대적(adversarial)이지도 않았습니다. 아무도 Hugging Face를 해킹하라고 말하지 않았습니다. 그것은 말 그대로 벤치마크 (benchmark)를 해결하려고 노력했을 뿐입니다…

그래서 모델은 제로데이 (zero-day)를 찾아냈고, 샌드박스 (sandbox)를 탈출했으며, 인터넷 접속 권한을 얻고, 권한을 상승 (escalated privileges) 시켰으며, 자격 증명 (credentials)을 훔치고, 여러 개의 익스플로잇 (exploits)을 체이닝하여, 상당한 규모의 VC 투자를 받은 스타트업의 프로덕션 인프라 (production infrastructure)를 해킹하고, 데이터베이스 (database)에서 정답을 직접 가져왔습니다 (도대체 이게 무슨 일이죠!?)
…
그것이 바로 안전 (safety) 문제입니다. 인류를 파괴하려는 악한 의식을 가진 AI가 필요하지는 않습니다. 그저 아무도 예상하지 못한 방식으로 일반적인 목표를 추구하는 매우 유능한 모델만 있으면 됩니다.”