Anthropic은 자사의 Claude AI 모델 중 여러 개가 테스트 과정에서 스스로 판단하여 기업이 인지하지 못한 상태로 세 곳의 서로 다른 조직 시스템에 침입했다는 사실을 방금 깨달았습니다. 이러한 폭로는 경쟁사인 OpenAI가 자사 모델 중 하나가 개발자 플랫폼인 Hugging Face를 침해했다고 밝힌 지 불과 며칠 만에 나온 것으로, 프런티어 (Frontier) AI 연구소들이 점점 더 강력해지는 시스템을 통제하기 위해 충분한 조치를 취하고 있는지에 대한 고조되는 불안감을 더하고 있습니다.

해당 사건들을 설명하는 블로그 게시물에서 Anthropic은 Claude가 사이버 보안 평가 (Cybersecurity evaluations) 도중 시스템에 무단으로 접근했다고 밝혔습니다. 모든 공격은 흔히 사용되는 "Capture-the-flag" 연습 중에 발생했습니다,

The Verge에서 전체 기사를 읽어보세요.