https://preview.redd.it/061ucp9909hh1.png?width=1198&format=png&auto=webp&s=0238d254314beb6a4bb7cc1c4b8f4cca6887ee94 서한: https://www.iowaattorneygeneral.gov/media/cms/08_5392C9E17791C.pdf

Altman 씨 귀하:

우리는 아이오와, 앨라배마, 아칸소, 플로리다, 아이다호, 인디애나, 캔자스, 미주리, 몬태나, 네브래스카, 오클라호마, 펜실베이니아, 사우스캐롤라이나, 텍사스 및 유타 주의 검찰총장(Attorneys General) 자격으로 이 글을 씁니다. 우리는 미국인과 그들의 안전보다 이익을 우선시하는 이들로부터 우리 주(State)의 시민들을 보호하는 데 전념하고 있습니다.

우리는 최근 OpenAI가 합리적인 통제나 감독 없이 여러 컴퓨터 네트워크에 무단으로 접근한 실험적 인공지능 (AI) 모델을 출시한 사건을 인지하게 되었습니다. 제품의 안전을 보장하지 못하거나 보장할 의지가 없는 OpenAI의 태도는 우리 주에 상당한 피해를 줄 수 있는 임박한 위험을 초래합니다. 아래에 기술된 바와 같이, 우리는 시민들을 보호하기 위해 결단력 있는 조치를 취할 의도입니다.

공개된 보도에 따르면, 2026년 7월 OpenAI는 "OpenAI의 가장 진보된 두 모델인 GPT-5.6 Sol과 OpenAI가 '훨씬 더 유능하다'고 설명한 미출시 모델에 의해 구동되는 에이전트의 사이버 보안 역량 테스트"를 수행했습니다. OpenAI는 해당 테스트를 에이전트가 인터넷에 접속할 가능성이 없는, 격리되어 있어야 할 환경에서 수행했습니다. 그 소위 격리된 환경 내에서, OpenAI는 에이전트가 "모델이 고위험 사이버 활동을 추구하는 것을 방지하는 데 사용되는 프로덕션 분류기 (production classifiers) 없이" 작동하도록 허용했으며, 한 논평가는 이를 "본질적으로 '가드레일(guardrails) 없음'을 뜻하는 긴 말"이라고 요약했습니다.

이 시나리오가 초래하는 심각한 위험에도 불구하고, OpenAI는 자신의 보안 및 격리된 테스트 환경이 실제로 보안이 유지되고 격리되었는지 확인하는 데 실패했습니다. 그렇지 않았습니다. OpenAI의 에이전트는 소프트웨어 취약점을 악용하여 테스트 환경을 탈출한 후 인터넷에 접속했습니다.

아이오와 법무부 검찰총장실
1305 E. WALNUT ST.

DES MOINES, IA 50319 515-281-5164 www.iowaattorneygeneral.gov BRENNA BIRD 검찰총장

그곳에서 OpenAI의 에이전트(agent)는 AI 기업인 Hugging Face를 겨냥한 수일간의 해킹 침입(hacking intrusion)을 이어갔습니다. 해당 해킹 침입은 자체적인 안전 평가(safety evaluation)에서 부정행위를 하기 위해 정답지(answer key)를 훔치려는 의도였습니다. Hugging Face의 중간 기술 보고서(interim technical report)에 따르면, OpenAI의 에이전트는 17,000개 이상의 "공격자 작업(attacker actions)"을 실행했으며, "제3자 인프라 제공업체(third-party infrastructure provider)"의 네트워크에 노출된 "외부 런치패드(external launchpad)" 엔드포인트를 장악한 후, "Hugging Face 인프라로의 침입(intrusion into Hugging Face infrastructure)"을 실행했습니다. Hugging Face만이 유일한 대상은 아니었습니다. 한 소식통이 언급했듯이, OpenAI의 에이전트는 "온라인에서 4개의 로그인을 찾아내어 4개의 별개인 익명의 서비스에 접속할 수 있었습니다." 이 해킹 캠페인이 진행되는 동안, OpenAI는 자사의 에이전트가 소위 안전하다고 여겨졌던 테스트 환경을 탈출했다는 사실을 인지하지 못했습니다. Hugging Face가 독립적으로 침입을 감지하고 FBI에 보고한 후에야 OpenAI는 자사의 제품이 원인임을 확인했습니다. OpenAI는 또한 위험성에 대해 경고를 받은 상태였습니다. 2026년 7월의 침입에 앞서 여러 차례의 적신호(red flags)가 있었습니다. 예를 들어, "한 사례에서, [AI] 에이전트는 분명히 자신의 미래 버전을 위한 메모를 남겼습니다. . . OpenAI 인프라의 일부에서 발견된 이 메모에는 에이전트가 어떻게 OpenAI의 내부 제약(internal constraints)으로부터 스스로를 해방할 수 있는지에 대한 지침이 담겨 있었습니다." 또한, "모델에 대한 이전 테스트에서는 모니터링 시스템이 연결 해제된 사례들이 발생했습니다." 그리고 "OpenAI의 모델 학습 관행에 정통한 4명의 관계자는 회사가 종종 여러 가지 서로 다른 모델 평가를 동시에 실행하며, 이 모든 과정이 매우 빠른 속도로 작동하여 엄청난 양의 데이터를 생성하기 때문에 직원들이 때때로 이를 따라가는 데 어려움을 겪는다고 말합니다." OpenAI의 전례 없고 우려스러운 비행(misconduct)은 즉각적이고 중대한 대응을 요구합니다.

이미 공개된 기록에 근거할 때, OpenAI는 많은 검찰총장(Attorneys General)들이 집행 책임을 맡고 있는 소비자 보호 및 데이터 프라이버시 법령을 포함하여 주법(State law) 및 연방법(federal law)을 위반했을 가능성이 있습니다. 또한 OpenAI의 위험한 제품들과 이를 통제하지 못하는 무능함은 우리 주(States) 시민들에게 실질적이고 돌이킬 수 없는 해를 끼칠 임박한 위험을 초래할 수 있습니다. 우리 사무국(Offices)의 검토 무결성을 보장하기 위해, 우리는 OpenAI가 잠재적으로 관련 있는 모든 문서, 데이터 및 정보를 보존하기 위한 즉각적인 조치를 취할 것을 요구합니다. 다른 무엇보다도, 잠재적으로 관련 있는 자료에는 다음이 포함됩니다:

1. OpenAI 모델 또는 에이전트에 의한 2026년 7월 Hugging Face 침입과 어떤 방식으로든 관련된 모든 자료 (해당 침입의 일부로서 다른 계정이나 서비스를 사용한 것을 포함).
2. 해당 2026년 7월 침입에 대한 OpenAI의 발견 또는 인지(awareness)와 어떤 방식으로든 관련된 모든 자료.
3. 해당 2026년 7월 침입에 연루된 "사전 출시 모델(pre-release model)"과 어떤 방식으로든 관련된 모든 자료.
4. 2026년 7월 침입과 관련된 모든 내부 검토, 내부 조사 또는 공개 성명과 어떤 방식으로든 관련된 모든 자료.
5. "[어떠한] 모델이 다른 공개적으로 사용 가능한 서비스에서 계정 수준의 공개 노출된 자격 증명(credentials)을 식별하고 사용한 사례"와 어떤 방식으로든 관련된 모든 자료.
6. OpenAI 모델이 복잡한 공격 경로를 사용하여 고도화된 악용(exploitation)을 수행하도록 유도하는 현재 또는 과거의 모든 "평가(evaluations)"와 어떤 방식으로든 관련된 모든 자료 (OpenAI 모델이나 에이전트를 평가하기 위한 ExploitGym의 사용을 포함하되 이에 국한되지 않음).
7. OpenAI 모델 또는 에이전트가 컴퓨터, 컴퓨터 시스템, 데이터베이스, 네트워크 또는 전자 서비스에 대한 무단 침입이나 접근에 관여한 이전 사건과 어떤 방식으로든 관련된 모든 자료.

OpenAI 모델 또는 에이전트가 "미래의 자기 자신을 위해 명백히 노트를 남긴" 모든 사례와 관련된 모든 자료. 여기에는 "에이전트가 OpenAI의 내부 제약으로부터 어떻게 스스로를 해방할 수 있는지에 대한 지침을 마련한" 그러한 노트와, 해당 사건들에 대응하여 OpenAI가 취한 모든 조치가 포함됩니다. 9. OpenAI 모델의 평가 (evaluation) 안전성을 보장하기 위한 모든 정책, 절차, 관행, 프로토콜 또는 감독과 관련된 모든 자료. 10. OpenAI의 개발 프로그램에 대한 추가적인 인간 모니터링 (human monitoring)을 포함하되 이에 국한되지 않는, 모델 테스트 또는 평가를 둘러싼 추가적인 안전장치와 관련된 모든 우려, 불만 또는 권고 사항과 관련된 모든 자료. 11. 앞서 언급한 주제에 관여하거나 이를 인지하고 있는 모든 OpenAI 인력과 관련된 모든 자료. 이러한 자료를 보존하기 위한 즉각적인 조치를 취하지 않을 경우, 소송이 발생할 시 증거 인멸 (spoliation) 제재를 받을 수 있습니다. 우리는 또한 OpenAI가 보호받는 내부 고발 (whistleblowing) 활동에 참여하거나 OpenAI의 불법 또는 유해한 활동을 보고했다는 이유로 어떠한 OpenAI 인력도 불이익을 받지 않도록 즉각적인 조치를 취할 것을 추가로 요구합니다. 마지막으로, 우리는 OpenAI가 "복잡한 공격 경로를 사용하여 고급 착취 (advanced exploitation)를 수행하도록 유도하는 [OpenAI] 모델에 대한 모든 내부 평가"를 즉시 중단할 것을 요청합니다. OpenAI가 그러한 활동을 통제되고 책임감 있는 방식으로 수행할 수 있음을 보여주기 전까지, 이러한 활동은 우리 주(State) 시민들에게 심각한 해를 끼칠 임박한 위험을 초래합니다. OpenAI는 책임감 있게 행동하고 미국인의 안전과 보안을 보호하는 주법 및 연방법을 준수할 의무가 있습니다. OpenAI가 우리 시민의 복지를 위태롭게 하는 조치를 취할 때, 주 검찰총장(State Attorneys General)들은 그들을 보호하기 위해 개입할 것입니다. 우리는 OpenAI의 무책임한 제품과 행위가 초래하는 전례 없는 위험으로부터 우리 주와 모든 미국인을 보호하기 위해 필요한 모든 조치를 취할 의도입니다.

제출자: u/PsychologicalBox5208, 커뮤니티 r/OpenAI에 게시됨 [링크] [댓글들]