Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Anthropic이 출시한 최신 모델 Fable 5와 Mythos 5가 미국 정부의 수출 통제 지침으로 인해 전 세계적으로 서비스가 중단되었습니다. 탈옥 취약점 논란에 따른 국가 안보 이슈가 프런티어 모델의 글로벌 출시와 규제 환경에 중대한 선례를 남겼습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Benchmark의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기이것은 정말 말도 안 되는 일입니다.
Anthropic은 6월 9일에 그들의 두 가지 최신 프런티어 모델 (Fable 5 및 Mythos 5)을 출시했습니다. 3일 후, 미국 정부는 전 세계의 모든 고객에 대해 두 모델을 모두 중단하도록 강제했습니다.
이 모델들은 지금까지 출시된 AI 모델 중 가장 유능했습니다. Fable 5는 본질적으로 모든 벤치마크에서 최첨단 (state-of-the-art) 성능을 보였으며, 특히 길고 복잡한 작업에 강점을 보였습니다. 소프트웨어 엔지니어링 (Software engineering), 시각 (vision), 과학 연구 (scientific research), 자율 에이전트 (autonomous agent) 작업 등이 포함됩니다. 한 테스트에서는 5,000만 줄의 코드베이스에 대한 수개월 분량의 작업을 단 하루 만에 압축하여 수행했습니다.
Mythos 5는 특정 영역에서 안전장치 (safeguards)를 해제한 동일한 기반 모델입니다. 세계에서 가장 강력한 사이버 보안 (cybersecurity) 능력을 갖추고 있습니다. 이미 미국 정부와의 협력을 통한 Project Glasswing을 통해 실제 신약 설계 및 새로운 과학적 가설 수립에 사용되고 있습니다.
미국 동부 표준시(ET) 기준 금요일 오후 5시 21분, 상무부(Commerce Department)는 국가 안보를 이유로 Anthropic에 수출 통제 지침 (export control directive)을 내렸습니다. 이 지침은 미국 외부에 있든 미국 내부에서 근무하든 상관없이 모든 외국 국적자의 접근을 금지하며, 여기에는 외국 국적의 Anthropic 직원도 포함됩니다. 이들에게 접근 권한을 부여하는 것은 "간주 수출 (deemed export)"로 간주됩니다.
Anthropic은 규정 준수를 보장하기 위해 두 모델을 전 세계적으로 비활성화할 수밖에 없었습니다.
이유는 다음과 같습니다: 다른 회사가 Fable 5를 탈옥 (jailbreak)했다고 주장했습니다. Anthropic은 해당 시연을 검토한 결과, 이는 좁은 범위의 비보편적 취약점 (non-universal exploit)이며 다른 공개 모델들 (GPT-5.5 포함) 또한 취약할 수 있다고 밝혔습니다. 그들은 이를 오해라고 부르며 접근 권한을 복구하기 위해 노력하고 있습니다.
이 점을 생각해 보십시오. 미국 정부 및 영국 AI 보안 연구소 (UK AI Security Institute)와 광범위한 레드팀 (red-teaming) 작업을 거쳐 개발된 세계에서 가장 유능한 두 AI 모델이, 논란이 되고 있는 탈옥 주장에 의해 전 세계적으로 먹통이 되었습니다.
만약 이것이 표준이 된다면, 향후 미국에서의 모든 프런티어 모델 출시는 위험에 처하게 됩니다.
이 선례는 엄청납니다.