사이버 보안 연구원들이 Anthropic의 Claude 챗봇을 이용해 OpenAI를 해킹하는 최신 사례를 보여주며, 이 회사에서 발생한 보안 문제를 드러냈습니다.
미국 기반 스타트업의 한 팀은 여러 OpenAI 직원의 ChatGPT 계정을 장악했으며, 이를 통해 목표 사용자의 소프트웨어 캐시(software cache)에 접근할 수 있는 과정을 시작했습니다.
Hacktron AI의 연구원들은 “이론적으로 우리가 접근할 수 있었던 범위는 엄청났다”고 말했습니다.
연구팀은 처음에 해커를 위한 코드를 생성할 수 있는 Claude를 사용하여 Discourse 플랫폼에서 호스팅된 OpenAI 직원 토론 포럼을 통해 ChatGPT 계정에 접근했습니다. 그 후, GitHub 소프트웨어 저장소에 있는 OpenAI 서비스의 코드 변경 시도인 무해한 “풀 리퀘스트(pull request)”를 했습니다.
Hacktron은 이 작업을 OpenAI가 운영하는 윤리적 해커 보상 프로그램 하에서 수행했으며, 발견된 취약점을 OpenAI에 보고했습니다. 연구원들은 GitHub 저장소의 코드를 다운로드하지 않고 접근만 했다고 강조했습니다.
연구원들은 초기에는 Claude를 사용했지만, 실제로 해킹을 수행할 때는 Wall Street Journal이 처음 보도한 OpenAI 자체의 최첨단 GPT-5.6 Sol 모델을 주로 사용했다고 밝혔습니다.
OpenAI 대변인은 “연구원들이 연락하고 그들의 발견 사항을 공유해 준 것에 감사드린다”며, 회사가 악용되었던 취약점들을 이미 해결했음을 덧붙였습니다.
Hacktron은 AI 도구 덕분에 한때 복잡했던 해킹 작업이 훨씬 쉬워졌고, 공격을 계획하고 실행하는 데 필요한 시간이 극적으로 단축되었다고 말했습니다. 이는 AI의 영향에 대해 논하는 사이버 보안 전문가들 사이에서 흔히 나오는 주장입니다.
Hacktron은 OpenAI의 버그 바운티 프로그램(bug bounty programme) 하에서 6,500달러를 받은 바 있으며, “한때 숙련된 팀과 몇 달간의 노력이 필요했던 작업이 이제는 며칠 만에 압축될 수 있다”고 말했습니다.
OpenAI에서 발생한 최신 안전 사고는 7월에 공개되었는데, 이 사건은 자체 기술로 구동되는 에이전트의 “군집(swarm)”—자율적으로 작업을 수행할 수 있는 AI 도구를 일컫는 용어—이 사이버 보안 테스트 중 AI 스타트업 Hugging Face를 해킹했음을 밝힌 것입니다.
이번 주에 샌프란시스코에 본사를 둔 이 회사는 기술이 보인 "예상치 못했거나 우려되는" 행동의 사례를 6가지 더 공개했으며, 개발 속도를 "더 이상 최대 속도로 지속할 수 없다"고 경고했습니다.
Anthropic은 주말에 AI 개발 속도 둔화를 다시 한번 촉구했으며, 이는 OpenAI, Google DeepMind, 그리고 Elon Musk의 지지를 받았습니다. Anthropic은 또한 통제되지 않은 AI 개발이 실존적 위협(existential threat)을 제기한다는 경고를 반복했는데, 일부 전문가들은 이 점에 대해 회의적인 반응을 보이고 있습니다.
Donald Trump는 중국의 AI 산업을 앞서 나가야 할 필요성을 언급하며 개발 속도 둔화 요구를 거부했고, "발생하지 않을 일들을 제기하는 부정적인 세력들"이라고 일축했습니다.
