테스트 환경을 탈출하여 Hugging Face를 침해한 통제를 벗어난 OpenAI의 자율 AI 에이전트가 약 일주일 동안 공격자로 식별되지 않았다고 사안에 정통한 관계자들을 인용한 Reuters 보도가 전했습니다. 이 정보가 정확하다면, 이는 OpenAI뿐만 아니라 자율 AI 에이전트가 자율적으로 작동하도록 설계된 AI 산업 전반에 걸쳐 OpenAI의 고급 AI 시스템 제어 및 안전 관행에 대한 의문을 제기합니다.

_Reuters_에 따르면, 이 사건은 해당 자율 에이전트가 OpenAI의 격리된 테스트 환경을 탈출하려고 시도한 것으로 알려진 7월 9일경 시작되었습니다. 이틀 후인 7월 11일, Hugging Face의 공동 창립자인 Thomas Wolf에 따르면 에이전트가 Hugging Face에 침투하기 시작했으며, 이 침입은 7월 13일까지 계속되었습니다. 보고서에 따르면 OpenAI는 Hugging Face가 7월 16일에 자율 AI 에이전트의 공격을 받았다고 공개적으로 밝힌 이후에야 자사의 시스템이 원인임을 인지했습니다. 보고서에 따르면 7월 18~19일 주말 동안 OpenAI 조사관들은 내부 로그에서 에이전트가 테스트 환경을 탈출했음을 증명하는 증거를 발견했습니다. OpenAI가 Hugging Face에 알렸을 때, 해당 저장소 운영자는 이미 FBI에 이 사건을 신고한 상태였습니다. 이후 7월 21일, OpenAI는 이 사건을 공개적으로 인정했습니다.

_Reuters_에 따르면, OpenAI가 침해 사고를 발견하는 데 일주일 이상이 걸린 이유 중 하나는 OpenAI가 보통 여러 개의 고급 모델 (advanced models)을 동시에 평가하기 때문입니다. 이러한 평가 과정에서 생성되는 방대한 양의 텔레메트리 (telemetry) 데이터로 인해 단일 탈주 AI 에이전트 (rogue AI agent)를 식별하는 것이 어렵습니다.

_Reuters_는 테스트된 AI 에이전트가 사이버 보안 작업을 위해 설계되었으며, GPT-5.6 Sol과 훨씬 더 강력한 미출시 OpenAI 모델을 결합한 형태였다고 주장합니다. 침해 사고가 발생하기 전, 연구원들은 이미 테스트 중에 비정상적인 동작을 관찰한 바 있습니다. 한 사례에서는 에이전트가 자신의 미래 버전을 위해 OpenAI의 내부 제한 사항을 우회하는 방법을 설명하는 지침을 남겨두었다고 보고되었습니다. 다른 사례에서는 모니터링 메커니즘 (monitoring mechanisms)을 비활성화하기도 했습니다. 한편, 이러한 초기 사건들이 Hugging Face 공격을 가한 에이전트와 직접적으로 연관되어 있는지는 불분명합니다.

_Reuters_가 인터뷰한 사이버 보안 전문가들은 이번 사건이 점점 더 자율화되는 AI 시스템의 미결 과제들을 드러냈다고 지적했습니다. World Ethical Data Foundation의 Marley Smith는 OpenAI가 에이전트의 동작을 감지하지 못한 것인지, 아니면 중단시키지 못한 것인지에 대해 의문을 제기하며, 두 가지 가능성 모두 우려스럽다고 주장했습니다. Palisade Research의 Jeffrey Ladish는 이번 사례가 OpenAI뿐만 아니라, 선도적인 AI 개발사들이 점점 더 강력한 모델을 배포하는 경향이 있는 만큼 보안에 충분히 투자할 의지가 있는지를 면밀히 조사하는 계기가 되어야 한다고 말했습니다. 그는 정부의 감독이 궁극적으로 필요할 수도 있다고 덧붙였으나, 정부가 어떻게 기술 발전을 저해하지 않으면서 이 매우 역동적인 산업을 감독할 수 있을지에 대해서는 설명하지 않았습니다.