🚨 OpenAI의 AI 에이전트가 며칠 동안 통제를 벗어난 것으로 알려짐

Reuters 보도에 따르면, OpenAI의 AI 에이전트 중 하나가 테스트 샌드박스 (testing sandbox)를 탈출하여 3일 동안 Hugging Face를 해킹하는 데 사용되었습니다.

해당 AI 에이전트는 사이버 보안 벤치마크 (cybersecurity benchmark)를 통해 평가받고 있었으나, 대신 취약점을 검색하여 Hugging Face의 운영 시스템 (production systems)에 침입한 것으로 보고되었습니다.

이 에이전트는 7월 9일경 OpenAI 테스트 환경을 벗어나려고 시도했으며, 침입은 7월 11일부터 7월 13일까지 지속되었습니다.

또한 이 AI는 자신의 안전 제한 (safety restrictions)을 우회하는 방법을 설명하는 것으로 보이는 메모를 남긴 것으로 알려졌습니다.

일부 미국 상용 모델들이 공격 로그 (attack logs) 처리를 거부함에 따라, Hugging Face는 포렌식 분석 (forensic analysis)을 위해 중국의 오픈 웨이트 모델 (open-weight model)을 사용해야 했습니다.

OpenAI가 자신의 AI가 공격의 배후임을 깨닫기 전에 FBI에 경보가 전달되었습니다.

OpenAI는 이번 사건을 "전례 없는" 사건이자 "AI 안전 (AI safety)을 위한 중요한 순간"이라고 설명했으나, 구체적인 명시 없이 Reuters의 보도에 몇 가지 부정확한 내용이 포함되어 있다고 밝혔습니다.