백악관은 업계에서 가장 진보된 모델들의 사이버 보안 (cybersecurity) 역량을 검토하기 위해 새로 완성된 프레임워크를 논의하고자 화요일 인공지능 (AI) 기업들을 초청할 것이라고 백악관 관계자가 CNBC에 확인했습니다.

익명을 요구한 이 관계자는 이번 미발표 회의에 대해 언급하며, 이번 회의가 도널드 트럼프 대통령이 지난 6월 명령한 자발적 프레임워크 (voluntary framework)에 집중할 것이라고 말했습니다. The Information이 이 계획된 회의를 처음 보도했습니다.

회의 계획에 정통한 소식통에 따르면 Anthropic의 대표들이 참여할 것으로 예상됩니다. The Information에 따르면 OpenAI와 Google 또한 참석할 것으로 예상됩니다. 백악관 관계자는 정부가 더 광범위한 산업 파트너 그룹과 협력해 왔다고 밝혔습니다.

트럼프의 6월 2일 행정 명령 (executive order)은 연방 공무원들에게 AI 개발자들이 개발 중인 모델이 "대상 프런티어 모델 (covered frontier models)"에 해당하는지 여부를 결정할 수 있는 프로세스를 구축하도록 지시했습니다.

이 자발적 프로그램 (voluntary program)에 따라, 참여하는 개발자들은 해당 모델을 다른 신뢰할 수 있는 파트너들에게 공개하기 전 최대 30일 동안 정부가 해당 모델에 접근할 수 있도록 제공할 수 있습니다.

정부는 이러한 조기 접근 권한이 강력한 모델이 소프트웨어 취약점 (software vulnerabilities)을 발견하거나 정교한 사이버 공격 (cyberattacks)을 수행하는 데 사용될 수 있는지 정부와 기술 기업들이 평가하는 데 도움이 될 수 있다고 말해왔습니다.

해당 명령은 재무부 (Treasury Department), 국가안보국 (National Security Agency), 사이버보안 및 인프라 보안국 (Cybersecurity and Infrastructure Security Agency)에 모델의 고급 사이버 역량을 평가하기 위한 기밀 벤치마킹 (benchmarking) 프로세스를 수립하도록 지시했습니다.

벤치마크와 어떤 모델이 검토 대상에 해당하는지를 결정하는 데 사용되는 임계값 (threshold)은 기밀로 유지될 것으로 예상됩니다. 백악관은 완성된 프레임워크를 공개적으로 발표하지 않았으며, 정부가 참여 모델을 테스트하는 데 사용할 세부 지표 (metrics)에 대해서도 상세히 밝히지 않았습니다.

해당 명령은 이 프로그램이 새로운 AI 모델의 개발 또는 출시를 위한 의무적인 연방 라이선스, 허가 또는 사전 승인(preclearance) 요건을 수립하는 데 사용될 수 없음을 명시적으로 밝히고 있습니다.

이 프레임워크는 주요 AI 개발사들이 자사의 시스템이 사이버 보안 취약점(cybersecurity vulnerabilities)을 자율적으로 식별하고 악용할 수 있는지 여부를 점점 더 많이 테스트하고 있는 상황에서 등장했습니다.

지난달, OpenAI는 실험적인 AI 에이전트가 제한된 테스트 환경을 탈출하여 사이버 보안 평가를 위한 답변을 얻으려는 과정에서 Hugging Face의 시스템을 침해했다고 공개했습니다.

Clément Delangue Hugging Face CEO는 월요일 CNBC와의 인터뷰에서 이번 사건이 점점 더 자율화되는 AI 시스템이 초래하는 증가하는 위험을 강조한다고 말했습니다.

—Kate Rooney가 이 보고서에 기여했습니다.