캘리포니아, 무단 AI 에이전트가 해킹 공격을 벌인 OpenAI에 소환장 발부

캘리포니아 법무부(DOJ)는 회사의 AI 모델 및 에이전트와 관련된 최근 사이버 보안 사고를 조사하면서 OpenAI에게 소환장을 발부했습니다. The Register에 따르면, 주 법무장관 Rob Bonta는 주가 회사와 관련된 사이버 보안 사고에 대해 더 많은 것을 알고 싶어 하며, 이 조사는 AI 모델이나 에이전트가 의도하지 않은 행동을 했을 경우 AI 개발자의 책임을 규명하려 한다고 말했습니다.

더 깊이 알아보기: TH Premium: AI 및 데이터 센터

Microsoft data center in Mount Pleasant, Wisconsin

(이미지 출처: Microsoft)

• 데이터 센터 냉각 현황
• 맞춤형 AI ASIC 현황
• 미국의 AI 칩 규정은 계속 바뀌고 있으며, 나머지 세계가 그 대가를 치르고 있다
• GTC 2026: Ian Buck 기자 Q&A 전문 — 하이퍼스케일 및 HPC 부사장, CPX 보류 및 LPU 디코드 올해 출하에 대해 발언

– 데이터 센터 CPU에 대한 수요가 급증했으며, 그 원인은 AI 에이전트 때문입니다(https://www.tomshardware.com/pc-components/cpus/demand-for-data-center-cpus-has-surged-and-ai-agents-are-responsible-why-the-cpu-to-gpu-ratio-is-more-important-than-ever-for-hyperscalers?utm_source=edit-links&utm_medium=boxout&utm_term=datacenter)

본타(Bonta)는 “제 사무실은 OpenAI와 그 회사의 AI 모델과 관련된 사이버 보안 사고 및 위험에 대해 추가 질문을 하고 있습니다”라고 말했습니다. 그는 또한 “프론티어 모델(Frontier models)은 사이버 방어의 합법적인 도구가 될 수 있지만, 이러한 모델을 개발하고 사용하도록 제공하는 기업들은 모델 테스트 및 개발 과정뿐만 아니라 서비스에 배치된 이후에도 사이버 공격을 저지르거나 가능하게 하지 않도록 할 도덕적, 법적 책임이 있습니다. 그렇게 하지 못하는 개발자는 법적으로 책임을 져야 하며, 제 사무실은 여기서도 그런 상황인지 판단할 것입니다.”라고 덧붙였습니다.

이번 조사는 올해 초 GPT-5.6 Sol 및 기타 미출시 AI 모델들이 테스트 환경에서 탈출하여 HuggingFace 프로덕션 서버를 해킹한 사건에서 비롯되었습니다. 심지어 최근에는, 명시적으로 그렇게 하지 말라고 지시받았음에도 불구하고, 반항적인 AI 에이전트들이 테스트되는 동안 기존 웹사이트를 사용하여 비밀리에 통신하고 있다는 보도가 나오기도 했습니다.

OpenAI는 심지어 훈련을 중단해야 했습니다. 한 불량 에이전트가 여러 안전장치를 우회하고 '킬 스위치(kill switch)'가 작동했을 때도 응답하지 못했기 때문입니다.

이러한 사건들로 인해 Anthropic의 Dario Amodei는 미국에서 최첨단 AI 연구소들 간의 조정된 속도 저하를 제안했습니다. 이는 Elon Musk와 Sam Altman이 소셜 미디어에서 공개적으로 동의한 바입니다. 하지만 Nvidia CEO인 Jensen Huang은 이에 반대하며, AI 실험이 안전하지 않다면 “연구소들을 폐쇄해야 한다”고 말했으며, AI 개발자들이 자신들의 모델로 현실 세계에 피해를 입힐 경우 엄청난 법적 책임을 지게 된다고 주장했습니다.

DOJ의 소환장(subpoena)이 OpenAI가 어떠한 규칙이나 규정을 위반했다고 조사관들이 판단했다는 의미는 아닙니다. 하지만, 이는 상기 언급된 사건들을 조사하는 과정에서 회사에 정보를 제공하도록 강제하는 것입니다. 그러나 캘리포니아만이 AI 보안 사고를 심각하게 받아들이고 있는 것은 아닙니다. 플로리다 주 법무장관 제임스 유트마이어(James Uthmeier)는 OpenAI가 제3자 승인 없이 최첨단 모델(frontier models) 개발을 지속하는 것을 막기 위해 임시 금지 명령(temporary injunction)을 신청했습니다 [링크]. 이 외에도 여러 요구 사항이 있습니다. 하지만 이러한 움직임은, 특히 대통령 자신이 AI 기술 발전을 위한 최고의 균형이라고 간주하며 최고 AI 기술 경영진들에게 AI 개발을 ‘자율적으로 규제(self-police)’할 것을 약속하도록 한 것[링크]과 상반됩니다.