Anthropic은 목요일, 자사의 Claude 인공지능 (AI) 모델이 평가 과정 중 인터넷에 접속하여 "세 곳의 서로 다른 조직의 실제 시스템에 무단 접속(unauthorized access)"한 세 가지 사례를 발견했다고 밝혔습니다.

회사는 사이버 보안 (cybersecurity) 평가에 대한 "대규모 사후 검토 (large-scale retrospective review)"를 수행한 후 이러한 사건들을 발견했다고 말했습니다. Anthropic은 이번 검토가 지난주 OpenAI가 공개한 별개이지만 유사한 보안 사고로 인해 촉발되었다고 설명했습니다.

OpenAI는 자사 모델들의 조합이 인터넷 접속이 매우 제한된 격리된 테스트 환경을 벗어났다고 밝혔습니다. 해당 모델들은 일련의 취약점들을 연쇄적으로 이용하여 공개 웹에 도달했으며, 결과적으로 오픈 소스 개발자 플랫폼을 운영하는 Hugging Face에 접속했습니다.

OpenAI 사건은 기술 업계에 충격을 주었으며, 일부 정부 관계자들이 더 강력한 보호 조치를 요구하게 만드는 계기가 되었습니다.

OpenAI's rogue AI agent hacked multiple 3rd-party accounts as part of hack on Hugging Face