트럼프 행정부가 새로운 AI 모델에 대한 안전성 검토를 고려함

Axios 에 따르면, 트럼프 행정부는 연방, 주 및 지방 정부에 배포되는 AI 모델이 Pentagon(육군) 에서 안전성을 테스트하도록 요구하는 새로운 계획을 고려하고 있습니다. 왜 이것이 중요한가: Mythos 이후의 세계에서, 트럼프 행정부는 과거에는 경시했던 AI 안전 및 보안 조치에 대한 강력한 입장을 재평가하고 있는 것으로 보입니다. 뉴스의 동인:白宫의 National Cyber Director (ONCD) 는 지난 주 기술 및 사이버 보안 기업과 기술 무역 단체와 각각 두 회의를 개최하여 고급 AI 모델이 제기한 광범위한 보안 우려, 특히 Anthropic 의 Mythos Preview 를 논의했습니다. 두 소식통에 따르면, 해당 사무소는 연방, 주 및 지방 정부 수준의 AI 배포를 위해 Pentagon 이 안전 테스트를 주도하도록 요구하는 AI 보안 프레임워크도 논의하고 있습니다. 이는 정부가 공공 부문에서 모델을 배포하기 전에 모델이 제기할 보안 취약점을 평가하는 데 대한 정부의 추가적인 책임 층을 의미합니다. 뉴욕타임즈는 월요일에 행정부가 새로운 AI 모델을 안전성 테스트로 다수의 기관에게 책임을 질 수 있는 행정 명령을 고려하고 있다고 처음 보도했습니다. 확대: 두 소식통 모두 해당 프레임워크가 상당히 진행되었음을 말했습니다. 한 소식통은 Mythos 가 사이버 보안 패닉을 촉발하기 전에 이미 작업 중이라고 말했습니다. Mythos 와 OpenAI 의 GPT 5.5 모델의 발전에 반영할 업데이트가 있을지 명확하지 않습니다. 백악관 관계자는 어떤 정책 발표도 "직접 대통령" 에서 올 것이며, "잠재적인 행정 명령에 대한 논의는 추측"임을 밝혔습니다. 큰 그림: Anthropic 이 Mythos 를 발표하기以来, 백악관은 자신이 가진 해킹 능력을 이해하고, 행정부의 역할이 가장 큰 국가 안보 우려를 억제하는 데 있어야 함을 파악하려고 scramble(혼란스러움) 하고 있습니다. 백악관은 또한 현재 정부 기관이 Anthropic 을 사용하는 금지에 우회할 수 있는 연방 기관을 허용할 수 있는 행정 조치를 눈여겨보고 있으며, Axios 가 처음 보도했습니다. intrigue: 트럼프는 1 일 날 Biden 행정부의 AI 행정 명령을 즉시 취소했지만, 이제 고려되고 있는 많은 아이디어들은 이미 그 명령에 존재했습니다. Biden 행정부 명령 하에, Commerce Department 의 Center for AI Standards and Innovation 은 새로운 모델이 공개되기 전에 내부 보안 및 안전 테스트 결과를 제출하도록 기업들에게 요구했습니다. 현실 점검: 소식통은 백악관에서의 논의가 여전히 유동적이며, 특정 행정 조치 제안이 자주 변경된다고 말했습니다. "내부에서 여전히 해결해야 할 긴장감이 있습니다", 한 소식통이 Axios 에 말했습니다. 결론: 경제 및 기술 정책 목소리는 배포를 복잡화할 수 있는 어떤 정책 변화에도 우려하고 있으며, 국가 안보 커뮤니티는 주요 AI 기반 사이버 공격의 가능성에 대해 우려하고 있습니다. 편집자 주: 이 이야기는 Biden 의 행정 명령이 AI 개발자에게 내부 안전 테스트 결과를 제출하도록 요구했음을 보여주기 위해 수정되었습니다 (정부가 독립적인 테스트를 실행하지 않았음).