이것은 정말 말도 안 되는 일입니다

이것은 정말 말도 안 되는 일입니다.

Anthropic은 6월 9일에 그들의 두 가지 최신 프런티어 모델 (Fable 5 및 Mythos 5)을 출시했습니다. 3일 후, 미국 정부는 전 세계의 모든 고객에 대해 두 모델을 모두 중단하도록 강제했습니다.

이 모델들은 지금까지 출시된 AI 모델 중 가장 유능했습니다. Fable 5는 본질적으로 모든 벤치마크에서 최첨단 (state-of-the-art) 성능을 보였으며, 특히 길고 복잡한 작업에 강점을 보였습니다. 소프트웨어 엔지니어링 (Software engineering), 시각 (vision), 과학 연구 (scientific research), 자율 에이전트 (autonomous agent) 작업 등이 포함됩니다. 한 테스트에서는 5,000만 줄의 코드베이스에 대한 수개월 분량의 작업을 단 하루 만에 압축하여 수행했습니다.

Mythos 5는 특정 영역에서 안전장치 (safeguards)를 해제한 동일한 기반 모델입니다. 세계에서 가장 강력한 사이버 보안 (cybersecurity) 능력을 갖추고 있습니다. 이미 미국 정부와의 협력을 통한 Project Glasswing을 통해 실제 신약 설계 및 새로운 과학적 가설 수립에 사용되고 있습니다.

미국 동부 표준시(ET) 기준 금요일 오후 5시 21분, 상무부(Commerce Department)는 국가 안보를 이유로 Anthropic에 수출 통제 지침 (export control directive)을 내렸습니다. 이 지침은 미국 외부에 있든 미국 내부에서 근무하든 상관없이 모든 외국 국적자의 접근을 금지하며, 여기에는 외국 국적의 Anthropic 직원도 포함됩니다. 이들에게 접근 권한을 부여하는 것은 "간주 수출 (deemed export)"로 간주됩니다.

Anthropic은 규정 준수를 보장하기 위해 두 모델을 전 세계적으로 비활성화할 수밖에 없었습니다.

이유는 다음과 같습니다: 다른 회사가 Fable 5를 탈옥 (jailbreak)했다고 주장했습니다. Anthropic은 해당 시연을 검토한 결과, 이는 좁은 범위의 비보편적 취약점 (non-universal exploit)이며 다른 공개 모델들 (GPT-5.5 포함) 또한 취약할 수 있다고 밝혔습니다. 그들은 이를 오해라고 부르며 접근 권한을 복구하기 위해 노력하고 있습니다.

이 점을 생각해 보십시오. 미국 정부 및 영국 AI 보안 연구소 (UK AI Security Institute)와 광범위한 레드팀 (red-teaming) 작업을 거쳐 개발된 세계에서 가장 유능한 두 AI 모델이, 논란이 되고 있는 탈옥 주장에 의해 전 세계적으로 먹통이 되었습니다.

만약 이것이 표준이 된다면, 향후 미국에서의 모든 프런티어 모델 출시는 위험에 처하게 됩니다.

이 선례는 엄청납니다.