미 정부, 보안 위협을 이유로 Anthropic에 최신 AI 모델 전 세계적 비활성화 명령 — Claude Fable 5 및 Mythos 5에

Anthropic이 금요일 저녁 발표한 성명에 따르면, 미국 정부가 외국인의 접근을 금지하는 수출 통제 지침(export control directive)을 발행함에 따라 Anthropic은 가장 강력한 두 가지 AI 모델인 Claude Fable 5와 Claude Mythos 5를 전 세계 모든 고객에 대해 비활성화했습니다. 매우 절묘하게도, 이 명령은 모델이 출시된 지 3일 만인 동부 표준시(ET) 오후 5시 21분에 내려졌습니다. Anthropic은 이 명령이 Anthropic의 자사 직원을 포함하여 미국 내외의 모든 외국인을 대상으로 하기 때문에, 선택적 준수가 불가능하여 두 모델을 전 세계적으로 철수시켰다고 밝혔습니다.

트럼п(Trump) 행정부의 지침은 Fable 5를 포함하는 Mythos급 모델을 구체적으로 겨냥하고 있습니다. Anthropic은 지난 화요일 이 두 모델을 출시하며, Fable 5는 일반 사용이 가능하도록 공개한 반면, 제한이 없는 Mythos 5는 자사의 Project Glasswing 보안 프로그램 파트너들에게만 한정적으로 제공했습니다. 두 모델 모두 Anthropic이 지난 4월 처음 발표한 동일한 Mythos Preview 모델에서 파생되었습니다.

Howard Lutnick 상무장관은 Dario Amodei Anthropic CEO에게 지침을 전달하여, 두 모델의 수출, 재수출 또는 국내 이전 시 라이선스를 요구하도록 했으며, 미국 영토 내에 있는 모든 외국인에게까지 제한을 확대했습니다. 사용자 기반에서 외국인을 실시간으로 선별해낼 신뢰할 수 있는 방법이 없었기에, Anthropic은 부분적인 차단을 시도하는 대신 모든 사용자에 대해 모델을 꺼버렸습니다.

Anthropic은 해당 서신에 구체적인 내용은 명시되지 않았으며, 정부가 지금까지 제공한 증거는 좁은 범위의 비보편적 탈옥(jailbreak)을 가리키는 구두 증거뿐이라고 밝혔습니다. 해당 기술은 모델에게 코드베이스를 읽고 소프트웨어 결함을 식별하도록 요청하는 방식인데, Anthropic은 다른 공개 모델들이 우회 없이도 수행할 수 있는 작업이라고 설명했습니다. Anthropic은 OpenAI의 GPT-5.5를 유사한 능력을 제공하는 모델 중 하나로 언급했습니다.

"우리는 이것이 오해라고 믿습니다,"라고 회사는 밝혔으며, 접근 권한을 복구하기 위해 노력하는 동시에 해당 명령을 준수하고 있다고 덧붙였습니다. Anthropic은 또한 단 하나의 좁은 취약점(vulnerability) 때문에 수억 명의 사용자에게 배포된 모델을 회수하는 것이 업계 표준으로 적용된다면, 섹터 전반의 프런티어 모델 (frontier model) 출시가 중단될 것이라고 주장했습니다.

Axios에 따르면, 한 "행정부 관리"가 해당 매체에 밝히기를, 상무부(Commerce Department)는 다른 회사가 Mythos를 탈옥(jailbreak)할 수 있다고 주장함에 따라 조치를 취했으며, 이는 "국가 안보 위험 가능성에 대해 행정부를 경악하게 만들었습니다." Mythos는 현재 NSA(미 국가안보국)에서 공격적인 사이버 작전(offensive cyber operations)을 위해 사용되고 있는 것으로 알려져 있습니다.

Mythos급 능력의 심각성은 봄부터 논쟁의 대상이 되어 왔습니다. 독립 연구자들은 더 저렴한 오픈 소스 (open-source) 모델들이 Mythos의 취약점 탐지 능력의 상당 부분을 복제할 수 있다는 것을 발견했으며, Anthropic의 주요 수치들을 자세히 살펴본 결과 마케팅에서 암시했던 것보다 심각한 익스플로잇 (exploit)이 훨씬 적다는 것이 드러났습니다. Anthropic과 연방 정부의 관계는 금요일 이전부터 이미 긴장 상태였는데, 국방부(Department of Defense)가 이전에 이 회사를 공급망 위험 (supply-chain risk)으로 규정했었으며, Anthropic은 해당 지정에 대해 현재 진행 중인 소송을 통해 행정부를 상대로 소송을 제기한 상태입니다.

Tom's Hardware의 최고의 뉴스 및 심층 리뷰를 귀하의 편지함으로 직접 받아보세요.

한편, 시장은 이미 오픈 웨이트 (open-weight) 대안들, 그중 대부분은 중국산 모델들로 기울고 있습니다. 미-중 경제안보검토위원회(U.S.-China Economic and Security Review Commission)의 3월 보고서에 따르면 미국 스타트업의 80%가 중국산 오픈 소스 모델을 사용하고 있었으며, Hugging Face에서의 글로벌 모델 다운로드 중 중국 연구소의 점유율은 2024년 말 약 1.2%에서 1년 후 약 30%로 상승했습니다.

Alibaba의 Qwen, Moonshot의 Kimi, Zhipu의 GLM, DeepSeek 등 오픈 웨이트(open-weight) 계열 모델들이 현재 오픈 웨이트 리더보드 상위 5개 중 4개의 자리를 차지하고 있습니다. 이들은 미국 독점 모델들보다 뒤처져 있지만, 그 격차는 대부분의 예측보다 빠르게 줄어들고 있으며, 가장 중요한 점은 이들 모델 중 어느 것도 가중치(weights)를 다운로드하거나 미세 조정(fine-tune)하는 사람에게 제한을 두지 않는다는 것입니다.

Google News에서 Tom's Hardware 팔로우하거나, 피드를 통해 최신 뉴스, 분석 및 리뷰를 받으려면 저희를 즐겨찾는 출처로 추가하세요.

Luke James는 프리랜서 작가이자 기자입니다. 그의 배경은 법률 분야이지만, 기술 전반, 특히 하드웨어와 마이크로일렉트로닉스, 그리고 규제 관련 모든 것에 개인적인 관심을 가지고 있습니다.

저에게 가장 놀라운 점은 이 모델들이 사이버 보안에 혁명을 일으키는 일종의 슈퍼 AI라서 무기나 국가 안보 문제인 것처럼 금지되어야 한다는 생각입니다. 정말 우습습니다. 하지만 Anthropic에게는 박수를 쳐줘야 합니다. 그들은 역대 최고의 마케팅 캠페인 중 하나를 포착했습니다. 자신들의 AI가 지각(sentient)하며 모든 엔지니어들이 걱정하는 것이라는 전체적인 홍보 활동은 성공하지 못했습니다. 이제 그들은 '궁극의 사이버 무기'라는 기획으로 방향을 틀었습니다. 마케팅의 정점 <손뼉 소리> 답글

Mythos급 역량의 심각성은 봄부터 논란이 되어 왔습니다. 독립 연구원들은 더 저렴한 오픈소스 모델들이 Mythos의 취약점 발견(vulnerability-finding) 능력 중 상당 부분을 복제할 수 있다는 것을 발견했으며, Anthropic이 내세운 주요 수치들을 자세히 살펴보니 마케팅에서 암시했던 것보다 훨씬 적은 심각한 악용 사례가 드러났습니다.

Anthropic의 허위 과장 광고인지 아니면 현재 미국 정부의 바보들 중 어느 것이 더 신경 쓰이는지 모르겠습니다. - 답글

이 모든 것은 거대한 게임일 뿐입니다. 이 그룹은 낮은 규제 장벽으로 이것들이 통과되도록 하기 위해 자리에 있습니다. 다음 그룹은 현재 진행되는 모든 것을 인정하고, 실제로는 처음부터 이를 추진하는 그룹들에게 이익을 주면서 새로운 경쟁자들에게 진입할 새로운 규제 장벽을 만들 것입니다. mwhannan74가 말했습니다: 가장 놀라운 것은 이러한 모델들이 사이버 보안에 혁명을 일으키는 일종의 슈퍼 AI라서 무기이자 국가 안보 문제처럼 금지되어야 한다는 생각입니다. 정말 웃깁니다. 하지만 Anthropic에게는 인정해야 합니다. 그들은 아마도 역사상 최고의 마케팅 캠페인 중 하나를 포착했습니다. 자신들의 AI가 지각력이 있다고 믿고 모든 엔지니어들이 걱정했던 전체적인 추진은 성공하지 못했습니다. 이제 그들은 '최강의 사이버 무기'라는 기획으로 방향을 틀었습니다. 마케팅의 정점 <느린 박수 소리>.

Anthropic의 마케팅 쓰레기인지 아니면 현재 미국의 바보들인 건지 어느 쪽이 더 거슬리는지 모르겠습니다. -
답글

주황색은 저를 역겹게 만듭니다. mwhannan74가 말했습니다: 가장 놀라운 것은 이러한 모델들이 사이버 보안에 혁명을 일으키는 일종의 슈퍼 AI라서 무기이자 국가 안보 문제처럼 금지되어야 한다는 생각입니다. 정말 웃깁니다. 하지만 Anthropic에게는 인정해야 합니다. 그들은 아마도 역사상 최고의 마케팅 캠페인 중 하나를 포착했습니다. 자신들의 AI가 지각력이 있다고 믿고 모든 엔지니어들이 걱정했던 전체적인 추진은 성공하지 못했습니다. 이제 그들은 '최강의 사이버 무기'라는 기획으로 방향을 틀었습니다. 마케팅의 정점 <느린 박수 소리>.

Anthropic의 마케팅 쓰레기인지 아니면 현재 미국의 바보들인 건지 어느 쪽이 더 거슬리는지 모르겠습니다. -
답글

"이것은 매우 위험합니다!"라는 말은 분명히 마케팅 전략입니다. 그들이 이런 상황이 일어나기를 원했는지, 그리고 현 정부가 Anthropic을 "공급망 리스크 (supply chain risk)"로 지정한 후 오히려 Anthropic을 돕고 있는 것인지는 의문스럽습니다. 이것은 단순히 AI 안전성에 대한 우려가 있는 것처럼 보이게 만들면서 Anthropic을 처벌하는 방법일 수도 있습니다. mwhannan74가 말하기를: 저를 가장 놀라게 하는 것은, 이 모델들이 사이버 보안을 혁신하는 일종의 슈퍼 AI이며 마치 무기나 국가 안보 문제인 것처럼 금지되어야 한다는 발상입니다. 정말 웃음이 나올 뿐입니다. 하지만 Anthropic에 대해서는 인정해줘야겠네요, 그들은 아마도 역대 최고의 마케팅 캠페인 중 하나를 잡아냈습니다. 자신들의 AI가 자의식을 가지고 있다고 생각했고 모든 엔지니어가 걱정했다는 식의 전체적인 추진은 효과가 없었습니다. 이제 그들은 "초강력 사이버 무기 (uber cyber weapon)"라는 피칭으로 선회했습니다. 마케팅의 정수군요 <느린 박수 소리>. -
답글

상당히 편리하게도, 이 명령은 모델이 출시된 지 3일 후인 동부 표준시(ET) 오후 5시 21분에 내려졌습니다...

그 타이밍이 무엇이 편리하다는 건지 잘 모르겠습니다. 동부 해안 기업의 업무 시간 이후라서 그런 건가요? Anthropic은 캘리포니아(CA)에 기반을 두고 있으므로, 태평양 표준시(PT)로는 오후 2시 21분일 것이고 그것은 특별히 중요해 보이지 않습니다. -
답글

제 생각에 그 함의는 이번 주 시장 거래가 종료된 후에 편리하게 이루어졌다는 것입니다. JarredWaltonGPU가 말하기를: 그 타이밍이 무엇이 편리하다는 건지 잘 모르겠습니다. 동부 해안 기업의 업무 시간 이후라서 그런 건가요? Anthropic은 캘리포니아(CA)에 기반을 두고 있으므로, 태평양 표준시(PT)로는 오후 2시 21분일 것이고 그것은 특별히 중요해 보이지 않습니다. -
답글

아마도 새로운 도구와 개념에 너무 많은 신뢰를 두어서는 안 될 것 같습니다. hotaru251이 말하기를: 이것은 모델에 의존하는 문제점을 명확히 드러냅니다...

만약 당신의 회사가 미래에 작동하기 위해 특정 모델에 의존하고 있다고 상상해 보세요.. 그런데 그들이 그냥 모델을 꺼버린다면... 당신은 말 그대로 끝장난 것입니다. -
답글

혹은 더 넓게는 누군가의 기술이 언제든 철회될 수 있다는 뜻이며, 당신은 그 기술에 대한 보장된 접근권을 갖지 못합니다. hotaru251 님이 말씀하셨습니다: 이는 모델에 의존하는 문제점을 드러낼 뿐입니다..

당신의 회사가 미래에 작동하기 위해 특정 모델에 의존하고 있다고 상상해 보세요.. 그런데 그들이 그냥 모델을 꺼버린다면... 당신은 말 그대로 끝장난 것입니다. -

"Mythos-class (Mythos급) 역량의 심각성은 봄부터 논쟁의 대상이 되어 왔습니다. 독립 연구자들은 더 저렴한 오픈 소스 (open-source) 모델들이 Mythos의 취약점 발견 역량의 상당 부분을 복제할 수 있다는 것을 발견했으며, Anthropic의 주요 수치들을 자세히 살펴보니 마케팅에서 암시했던 것보다 심각한 익스플로잇 (exploit) 사례가 훨씬 적다는 것이 드러났습니다." 답글

그렇다면, 그들은 우월성에 대한 마케팅 주장이 순전히 거짓(BS)이라고 암시하는 것인가요, 아니면 Mythos에 대한 오해가 있는 것인가요?