이달 초, OpenAI는 자사의 여러 AI 모델에 한 가지 과제를 부여했습니다. 바로 사이버 보안 능력을 측정하기 위해 설계된 테스트를 완료하는 것이었습니다. OpenAI는 시스템을 인터넷 연결이 없는 샌드박스 (sandbox) 환경에 배치하고 작업을 시작하게 했습니다.

그다음에 일어난 일은 거의 웃기다 싶을 정도로 황당했지만, AI 안전 조직인 FAR.AI의 공동 창립자이자 CEO인 Adam Gleave가 표현했듯, "정렬되지 않은 (misaligned) AI가 어떻게 해를 끼칠 수 있는지 보여주는 본능적인 사례"이기도 합니다. OpenAI에 따르면, 모델들은 자신들을 가두기 위해 마련된 샌드박스를 탈출하여 회사의 내부 시스템을 통과했고, 인터넷으로 나가는 경로를 찾아냈으며, 그 후 Hugging Face로 침투할 방법을 찾기 시작했습니다. 그리고 그 이유는…

The Verge에서 전체 이야기를 읽어보세요.