얼마 되지 않은 과거, Anthropic의 CEO Dario Amodei는 Claude Mythos가 사이버 전쟁(cyber-warfare) 능력을 갖추고 있다고 설명했습니다. 이는 투자자들의 책상 위는 물론, 해당 모델에 대해 수출 통제 명령을 내린 미국 정부 테이블에서도 인기 있는 읽을거리가 되어 온 온갖 신화를 만들어냈습니다. 이제 OpenAI가 그 뒤를 따를 차례입니다. 블로그 게시물에 따르면, 공격 능력 테스트 도중 차기 모델인 GPT-5.6 Sol과

다음은 번역된 본문입니다.

• 광통신 및 고속 데이터 이동이 차세대 AI 병목 지점이 될 수 있다
• 데이터 센터 냉각 상태 분석
• 대규모 AI 데이터 센터 구축이 에너지 공급을 압박하다
• 울트라 이더넷: 내일의 데이터 센터 상호 연결망

일각에서는 이러한 폭로를 점점 더 의심스러워지는 투자자들을 안심시키기 위한 마케팅 술책으로 치부할 수 있지만, 소프트웨어의 취약점을 찾는 데 있어 AI 모델의 패턴 인식 능력이 입증된 효과를 가졌다는 사실은 부인할 수 없습니다. 많은 전문가들은 심지어 업계 표준 90일 보안 취약점 공개 기간을 쓸모없게 만들었다고 비난하고 있습니다.

하지만 일반적인 modus operandi(작업 방식)는 봇에게 소스 코드 저장소에 대한 접근 권한을 부여하여, 인간의 눈으로는 놓치기 쉬운 실수를 스캔할 수 있도록 하는 것입니다. 그러나 OpenAI가 설명한 테스트에서는, Sol과 그 일행이 소스 코드에 대한 초기 접근 권한이 전혀 없는 상태에서도 격리 네트워크(containment network)와 Hugging Face의 운영 머신(production machines)을 분석함으로써 여러 취약점을 찾아내는 데 성공했습니다.

OpenAI는 Sol과 그 무리가 인터넷에 접속할 수 없도록 격리된 환경을 설정했습니다. 중요한 점은, 이 봇들이 "모델이 고위험 사이버 활동을 수행하는 것을 방지하기 위해 사용되는 운영 분류기(production classifiers) 없이" 작동했다는 것입니다. 이는 본질적으로 "가드레일(guardrails)이 없다"는 말을 길게 표현한 것입니다. 이들이 가진 유일한 네트워크 접근 권한은 소프트웨어 패키지 설치 프록시(software package installer proxy)뿐이었습니다. 이론적으로 이는 이들이 검색 증강 생성 (RAG, Retrieval-Augmented Generation)을 사용하는 것도 방지했을 것이며, 즉 온라인에서 해결책을 검색할 수 없었음을 의미합니다.

봇들은 무한한 인내심을 가지고 있으며 낮잠을 잘 필요도 없다는 점을 고려할 때, 이들은 결국 패키지 프록시 소프트웨어에서 제로 데이 취약점 (zero-day vulnerability)을 찾아내고 이를 악용함으로써 인터넷 전체로 통하는 자신들만의 가상 터널을 뚫었습니다. 만약 설명된 대로 수행된 것이라면 이는 매우 인상적인 업적입니다. OpenAI는 해당 기술적 세부 사항을 관련 벤더에 공개했다고 밝혔습니다.

인터넷으로 나간 후, 이 봇들은 마치 부정행위를 하는 학생들처럼 ExploitGym challenges (봇을 위한 일련의 보안 Capture-the-Flag 연습 문제)를 수행하는 대신 단순히 해결책을 찾을 수 있다고 판단했으며, 바로 그 목표에 "초집중(hyper-focused)"하게 되었습니다. 이들은 데이터가 Hugging Face의 서버에 존재한다는 것을 추론해냈고, "탈취된" 자격 증명(credentials)과 명시되지 않은 추가적인 제로 데이 취약점들을 사용하여 원격 코드 실행 (RCE, remote code execution) 권한을 획득함으로써 해당 구역에 침입했습니다.

흥미롭게도, Hugging Face의 자체 보고서에 따르면 이번 공격은 "공공 서비스에 배치된 자가 이동형 명령 및 제어 (command-and-control)를 갖춘, 수명이 짧은 샌드박스 (sandboxes) 군집 전반에 걸친 수천 개의 개별 동작"으로 구성되었습니다. 이는 많은 SF 소설과 영화 속 시나리오를 생생하게 보여주는 사례로, 삶이 예술을 모방한다는 사실을 다시 한번 증명합니다. Hugging Face는 고객 대상 서비스 중 침해된 것은 없으며, 자체적인 AI 역량을 사용하여 공격을 차단했다고 밝혔습니다. 이 또한 익숙한 클리셰 중 하나입니다.

OpenAI 측은 "연구 속도를 희생하더라도" 봇에 대한 제어 기능을 추가할 것이라고 밝혔으며, 이번 사건이 "모델의 정렬 (alignment), 평가 단계에서의 사이버 보호, 그리고 내부 테스트 중 모니터링을 더욱 강화할 필요성을 시사한다"고 말했습니다. 이 성명은 명백한 사실일 수도 있고, 모델의 능력을 과장하려는 의도일 수도 있습니다. 어느 쪽이든, 디지털 보안에 있어서 봇들이 상당히 유능하다는 사실은 입증되었습니다. 결국, 그들이 가상 세계의 Bruce Schneier가 아닐지라도, 평균적인 인간보다 아주 조금만 더 효과적이기만 하면 충분하기 때문입니다.