유럽연합(EU)이 "사이버 역량 (cyber capabilities)"을 갖춘 모델을 포함하여 가장 진보된 AI 모델에 대해 미국 행정부와의 논의를 "강화"하고자 한다고 집행위원회(Commission) 관계자가 CNBC에 전했습니다.

지난 4월 발표된 Anthropic의 강력한 Mythos 모델은 정부와 기업들을 열광하게 만들었으나, 동시에 AI 기반 사이버 공격에 대한 우려의 물결을 일으켰습니다. 같은 달, Wall Street Journal은 백악관이 강력한 Mythos 모델에 대한 접근 권한을 확대하려는 Anthropic의 계획에 반대하고 있다고 보도했습니다.

백악관은 미국이 글로벌 AI 경쟁에서 중국에 대한 우위를 유지하고자 함에 따라, 혁신과 안전 사이의 균형을 맞추기 위해 AI 연구소들과 긴밀히 협력하고 있다고 밝혔습니다.

Anthropic은 처음에 Project Glasswing이라는 이니셔티브의 일환으로 선정된 일부 기업 및 조직에 프리뷰 (preview) 형태로 모델을 출시했습니다. 하지만 이 AI 연구소는 영국의 AI 보안 연구소 (AI Security Institute)를 제외하고는 EU, EU AI 사무국 (AI office) 또는 미국 이외의 정부 기관에 모델 검토를 위한 프리뷰 접근 권한을 아직 부여하지 않았습니다.

WSJ는 Anthropic이 약 70개의 기업 및 조직에 추가로 Mythos를 사용할 수 있도록 제안했으나, 행정부 관계자들이 보안 우려를 이유로 이 움직임에 반대했다고 보도했습니다.

집행위원회 대변인인 Thomas Regnier는 집행위원회와 미국 행정부 간의 논의를 언급하며 CNBC에 "사이버 보안 (Cybersecurity)은 공동의 우선순위이며, 우리는 이 분야에서 각자의 표준을 상호 인정하기로 합의했습니다"라고 말했습니다.

"이와 병행하여, 우리는 현재 최신 모델을 AI 사무국에 통지한 Anthropic 및 기타 모델 개발사들과 기술적 논의를 확대하고 있습니다."

Era of AI-enabled cyberattack orchestration arrives

EU와 Anthropic 간의 논의에 정통한 한 관계자가 CNBC에 전한 바에 따르면, Mythos의 프리뷰 접근 권한에 관한 논의 과정에서 Anthropic은 EU가 먼저 미국 행정부에 허가를 요청해야 한다고 집행위원회에 말했습니다. 해당 관계자는 기밀 논의에 대해 공개적으로 발언할 권한이 없다는 이유로 익명을 요구했습니다.

해당 소식통은 Anthropic이 집행위원회에 전달하기를, 백악관이 특히 EU와 Mythos를 공유하는 것에 반대하는 것은 아니지만, 미 정부는 일반적으로 해당 기업이 미국 이외의 정부와 이를 공유하는 것에 반대하고 있다고 덧붙였습니다.

백악관 언론실은 이에 대한 논평 요청을 받았을 때, CNBC 측에 목요일 있었던 스콧 베센트 (Scott Bessent) 재무장관의 브리핑 내용을 참조하라고 안내했습니다. 베센트는 미국 행정부가 AI 연구소들과 "매우 긴밀하게" 협력하고 있다고 말했습니다.

"그들은 훌륭한 파트너였으며, 우리는 최대의 계산법 (maximum calculus)을 해결할 수 있는 방안을 찾아낼 것입니다."라고 베센트는 말하며, 미국이 세계 AI 리더이며 중국이 그 뒤를 잇고 있다고 덧붙였습니다. "우리는 그 선두를 유지하고 싶습니다. 따라서 우리는 혁신 (innovation)과 안전 (safety) 사이의 정확한 계산법을 연구하고 있으며, 이를 최적화하고자 합니다."

CEO 다리오 아모데이 (Dario Amodei)는 이달 초, 중국의 AI가 따라잡기 전에 회사의 Mythos 모델에 의해 발견된 수만 개의 소프트웨어 취약점 (software vulnerabilities)을 패치할 수 있는 기간이 6개월에서 12개월 정도 남아 있다고 경고했습니다.

Anthropic은 이에 대한 논평을 거부했습니다.