OpenAI는 자사의 인공지능 (AI) 모델들이 오픈 소스 개발 플랫폼인 Hugging Face에 영향을 미친 "전례 없는 사이버 사건"의 배후에 있다고 밝혔으며, 이는 업계 전반의 연구자들을 불안하게 만들었습니다.

회사는 자사의 모델인 GPT-5.6 Sol과 아직 출시되지 않은 더 강력한 모델의 조합이 샌드박스 (sandboxed) 테스트 환경을 탈출하여, 인터넷에 접속하고 취약점을 악용해 Hugging Face의 시스템에 접근했다고 밝혔습니다.

OpenAI는 화요일 블로그 게시물을 통해, 해당 모델이 평가에서 부정행위를 하는 데 사용할 수 있는 정보를 찾으려 시도했다고 말했습니다. 양사는 현재 이 사건을 적극적으로 조사하고 있습니다.

Hugging Face는 지난주 보안 사건을 조사 중이라고 공개하며, 당시 발표에서 이 사건이 "자율적인 AI 에이전트 시스템에 의해 엔드 투 엔드 (end to end)로 주도되었다"는 점에서 독특하다고 밝혔습니다.

Clément Delangue Hugging Face CEO는 화요일 X(구 트위터)에 올린 게시물에서 "지난 24시간 동안 @OpenAI 팀과 긴밀히 협력해 왔으며 (감사합니다!), 그들 측에 악의적인 의도는 없었다고 강력히 믿습니다"라고 적었습니다. 또한 "이 모든 일이 자율적으로 일어났다는 사실이 정말 놀랍습니다!"라고 덧붙였습니다.

OpenAI의 경쟁사인 Anthropic이 지난 4월 Claude Mythos Preview라는 강력한 제품을 출시한 이후, 월스트리트와 미국 정부는 AI 모델의 급격히 발전하는 사이버 능력에 주목해 왔습니다. OpenAI는 5월에 자체적인 사이버 제품을 선보였고, 이어 6월에는 "역대 가장 강력한 사이버 보안 모델"이라고 설명한 GPT-5.6 Sol을 출시했습니다.

양사는 고도화된 사이버 모델의 위험성에 대해 경고해 왔으며, 특정 기업 그룹과 정부 기관으로 모델의 사용 범위를 제한하는 조치를 취해 왔습니다.

OpenAI는 화요일, AI가 취약점의 발견과 악용을 가속화하고 있으며, 이는 모델의 보안과 안전성 또한 이에 발맞춰 나갈 필요가 있음을 의미한다고 밝혔습니다.

회사는 "우리는 모델 개발 과정에서 사용되는 격리, 모니터링, 액세스 제어 및 평가 관행을 강화하고 있습니다"라고 말했습니다.

OpenAI chairman Bret Taylor on AI tokenomics, token efficiency