최상위 지능, 하룻밤 사이에 차단되다

나는 Fable 5를 긴 작업에 설정해 두고 몇 시간 후에 다시 확인하겠다고 다짐하며 실행해 두었다. 다시 돌아왔을 때, 작업을 수행하던 모델은 더 이상 Fable 5가 아니었다. 그것은 Opus 4.8이었다. 모델이 내 뒤에서 스스로 등급을 낮춰버린 것이다.

나는 결과물을 빤히 쳐다보았다. 나의 첫 번째 생각은 모델이 일을 잘했느냐가 아니라, 출력이 사용 가능한 수준인지였다. 나는 Fable 5 수준의 결과물을 기대하고 있었다. 더 약한 모델이 작업 중간에 인계되면서, 처음 몇 시간 동안의 작업은 갑자기 불확실해졌다.

나중에 알게 된 사실은 이것이 공식적인 메커니즘이라는 점이었다. Fable 5는 당시 Anthropic의 가장 강력한 모델이었으며, 가격은 Opus 4.8의 두 배였다. 하지만 여기에는 안전 분류기 (safety classifier)가 포함되어 있었다. 분류기가 사용자의 질문을 사이버 보안 (cybersecurity)이나 생화학 (biochemistry)과 같은 민감한 영역을 다루는 것으로 플래그(flag)를 지정하면, 해당 라운드를 자동으로 Opus 4.8로 넘겨버리는 방식이었다. 공식적인 트리거 (trigger) 비율은 5% 미만이었지만, 나는 추론 엔진 (inference engine)을 구축하며 매일 저수준 코드 (low-level code)와 시스템 호출 (system calls)을 다루고 있었기에 교전 중에 휘말릴 수밖에 없었다. 단 한 번의 오탐 (false positive)만으로도 전체 세션의 등급이 떨어졌다.

3일 만에 사라지다

조용한 등급 하락은 그저 짜증스러운 수준이었다. 나를 정말로 할 말을 잃게 만든 것은 불과 며칠 만에 Fable 5가 완전히 사라져 버린 일이었다.

출시된 지 단 3일 만에 미국 상무부 (U.S. Commerce Department)는 Anthropic에 수출 통제 명령을 내렸다. 국가 안보 규정에 따라 해당 모델을 수출 통제 목록에 추가하라는 것이었다. 발단은 누군가가 모델을 탈옥 (jailbreaking)하여 소프트웨어 취약점을 찾아내는 데 사용한 것이었다. 명령의 문구는 "중국에 팔지 마라"가 아니라 "어떠한 외국인에게도 제공하지 마라"였다. 미국에서 근무하는 외국인 직원들조차 대상에 포함되었다. Anthropic은 규정을 준수할 수 있는 유일한 방법은 전 세계 모든 사용자에 대해 모델을 중단하는 것뿐이라고 밝혔다. 그리하여 한국과 영국 같은 우방국들도 차단되었다.

이것은 내가 이전에 팀원들에게 말했던 사실을 증명했다. 해외의 최상위 폐쇄형 모델 (closed-source models)을 사용할 때는, 사용할 수 있을 때 최대한 좋은 것을 사용해야 한다는 것이다. 그 길은 점점 더 좁아질 뿐이며, 되돌아갈 방법은 없다. 나는 압박이 점진적으로 올 것이라고 생각했다. 하지만 대신, 출시 후 3일 만에, 서류 한 장에 의해 그렇게 단칼에 차단되었다.

소프트웨어가 군수품이 되는 것은 새로운 일이 아니다

지능을 전략적 자원으로 취급하는 것은 새로운 것처럼 들리지만, 사실은 예전부터 반복되어 온 이야기다.

1990년대에 미국은 강력한 암호화 알고리즘을 군수품 목록 (munitions list)에 올려 무기 수출로 규제했다. 민간용 암호화 기술은 사실상 쓸모가 없을 정도로 의도적으로 약화되었다. PGP의 창시자인 필 짐머만 (Phil Zimmermann)은 자신의 암호화 소프트웨어를 온라인에 공개한 후, "무허가 군수품 수출" 혐의로 3년 동안 연방 당국의 조사를 받았다. 논리는 동일했다. 일단 소프트웨어가 충분한 능력을 갖추게 되면, 그것은 더 이상 소프트웨어가 아니다. 그것은 무기가 된다.

Fable 5 역시 동일한 판결을 받았다. 취약점을 찾아내는 능력이 너무 뛰어났기에, "상업적 제품"에서 "사이버 무기 (cyberweapon)"로 재분류되었다.

하지만 암호화 전쟁은 더 흥미로운 결말을 맞이했다. 규제는 효과가 없었다. 강력한 암호화 기술은 오픈 소스 (open source)를 통해 전 세계로 퍼져 나갔고, 장벽은 이를 막을 수 없었다. 2000년 무렵, 미국은 규제를 완화할 수밖에 없었다. 충분히 유용하고 복제 가능한 모든 능력은 규제로 인해 속도가 늦춰질 수는 있어도, 결코 멈춰 세울 수는 없다.

대체재들이 이미 문 앞에 와 있다

이번에는 그 대체재들이 거의 같은 주에 나타났다.

Fable 5가 중단된 바로 다음 날, Zhipu는 GLM 5.2를 출시했다. 타이밍이 거의 완벽할 정도였다. 그 전에는 MiniMax가 M3를 출시했고, Kimi는 K2.7 Code를 출시했다. 이들은 모두 오픈 소스 (Open Source) 또는 오픈 웨이트 (Open-weight) 모델이었다. GLM 5.2는 아주 좋은 입소문을 얻었다. 사람들은 주로 속도가 얼마나 느린지에 대해 불평했을 뿐, 품질에 의문을 제기하는 사람은 거의 없었다. 이는 내가 직접 사용해 본 경험과도 일치했다. 인프라와 GPU 부족으로 인해 모델을 서빙(Serving)하는 데 어려움이 있었지만, 모델 자체는 진정으로 최상위 티어 (Top tier)에 있었다.

또 다른 관점이 있다. 실리콘밸리의 최상위 AI 인재 비용은 치솟았고, GPU 구매는 제한되어 있다. 하지만 인력과 컴퓨팅 자원(Compute)이 모두 부족한 이 환경 속에서, 중국의 로컬 플레이어들은 최상위 티어와 벤치마크(Benchmark)를 겨룰 만한 모델을 구축하고 이를 오픈 소스로 공개했다.

오늘날 중국산 모델은 전 세계 오픈 소스 모델 다운로드 점유율에서 17.1%를 차지하며 미국의 15.8%를 앞서며 가장 큰 비중을 차지하고 있다. 경쟁사들의 자원 중 아주 일부만을 가지고 이 모든 것을 해내면서 여전히 가중치(Weights)를 공개하고 있다는 점은 진정으로 인상적이다. 이번에 Zhipu가 반복적으로 내건 슬로건은 "개방(Open)": 지능은 모두의 것이어야 한다는 것이었다.

이제 이것은 어떤 모델이 더 강력한가의 문제가 아니다. 작년 백악관의 AI 행동 계획(AI action plan)은 "미국은 AI 분야에서 글로벌 패권을 달성하기 위한 경주를 하고 있다"라는 문구로 시작되었다. 한 국가가 이 정도 수준의 지능을 보유하게 되면, 타인의 접근을 차단하는 것은 당연한 전략이 된다. 산업 혁명은 이미 이 시나리오를 보여준 바 있다. 한 국가의 생산성이 다른 국가를 앞지르면, 그 국가는 거의 원하는 대로 행동할 수 있다. 지능은 다음 생산성 파동의 토대다. 그 카드는 점점 더 강력해질 것이다.

공개되어 있을 때 사용하라

두 가지가 있다.

첫째, 공개되어 있을 때 사용할 수 있는 만큼 사용하고, 중요한 곳에 투입하라. 최상위 지능은 이제 유효 기간이 있는 할당량(Quota)처럼 작동한다. 누군가 언제 스위치를 내릴지 알 수 없다. 여전히 접근 권한이 있을 때, 가장 어려운 문제들을 던져라.

둘째, 당신이 제어할 수 없는 스위치에 당신의 모든 지능 공급원을 걸지 마십시오. 당신의 워크플로우(Workflow)를 단 하나의 폐쇄형 모델(Closed-source model)에 고착시키는 것은, 단 한 번의 규제 결정만으로도 당신을 완전히 멈춰 세울 수 있음을 의미합니다. 당신에게는 대비책(Fallback)이 필요합니다: 오픈 웨이트 모델(Open-weight models), 당신이 직접 제어할 수 있는 배포 방식(Deployments) 말입니다. 설령 그것들이 더 느리거나 성능이 낮더라도, 결정적인 순간에는 여전히 그 자리에 있을 것입니다.

맺음말

Fable 5의 조용한 성능 저하(Downgrade)는 당시에는 형편없는 제품 경험처럼 느껴졌습니다. 돌이켜보면 그것은 예고편이었습니다: 당신이 안전하게 보유하고 있다고 생각하는 지능은 언제든 조용히 교체되거나, 단순히 박탈될 수 있습니다.

모델은 세대를 거듭하며 계속해서 강력해질 것입니다. 하지만 당신이 실제로 가장 강력한 모델을 사용할 수 있느냐의 문제는 점점 더 기술적인 문제와는 거리가 멀어지고 있습니다.

지능이 전략적 자원으로 취급될수록, 그 지능에 대한 접근 권한은 더욱 가치 있어질 것입니다.

참고 문헌

1. Anthropic, "Claude Fable 5 and Claude Mythos 5" (안전 분류기(Safety classifier) 트리거 시 Opus 4.8로 자동 다운그레이드되는 메커니즘을 포함한 공식 출시 발표), 2026-06-09, https://www.anthropic.com/news/claude-fable-5-mythos-5

2. Anthropic, "Statement on US government directive" (공식 중단 성명), 2026-06-12, https://www.anthropic.com/news/fable-mythos-access

3. The New Stack, "US Gov Orders Anthropic To Pull Fable 5 and Mythos 5 Three Days After Launch" (메커니즘: 행정 명령이 아닌 수출 통제 명령; 글로벌 중단 뒤에 숨겨진 컴플라이언스(Compliance) 논리), 2026-06, https://thenewstack.io/us-gov-orders-anthropic-to-pull-fable-5-and-mythos-5-three-days-after-launch/

5. Fortune, "Anthropic, 수출 통제에 따라 Fable 및 Mythos 비활성화" (Lutnick 상무장관이 Amodei에게 보낸 서신; Opus 4.8은 영향 없음), 2026-06-13, https://fortune.com/2026/06/13/anthropic-disables-fable-mythos-export-controls-national-security-threat/

6. InfoQ, "Anthropic, Claude Fable 5 및 Mythos 5 출시 후 중단" (출시 사양, 가격 및 중단 타임라인), 2026-06, https://www.infoq.com/news/2026/06/claude-5-release/

7. TechCrunch, "Anthropic, 새로운 Dynamic Workflow 도구를 탑재한 Opus 4.8 출시", 2026-05-28, https://techcrunch.com/2026/05/28/anthropic-releases-opus-4-8-with-new-dynamic-workflow-tool/

8. Zhipu Z.ai, GLM-5.2 API 문서 / 릴리스 노트 (Release Notes), 2026-06-13, https://docs.z.ai/devpack/latest-model

9. MiniMax, "MiniMax M3 공식 출시" (공식 블로그), 2026-06-01, https://www.minimax.io/blog/minimax-m3

10. Moonshot AI, "Kimi-K2.7-Code" (HuggingFace 모델 페이지, 수정된 MIT 오픈 소스), 2026-06-12, https://huggingface.co/moonshotai/Kimi-K2.7-Code

11. Science and Technology Daily / People's Daily Online, "중국 개발 오픈 소스 AI 모델, 전 세계 다운로드의 17.1% 차지하며 세계 1위 기록", 2025-12-08, http://finance.people.com.cn/BIG5/n1/2025/1208/c1004-40619459.html

12. 백악관 (The White House), "미국의 AI 실행 계획 (America's AI Action Plan)" (첫 문장: "AI 분야에서 글로벌 패권을 달성하기 위한 경주"), 2025-07, https://www.ai.gov/action-plan

13. 미국 (U.S.)

산업안보국 (Bureau of Industry and Security), "상무부, 바이든 시대의 AI 확산 규칙 폐지 발표" (AI 확산 규칙 폐지; 통제 초점이 칩으로 전환됨), 2025-05-13, https://www.bis.gov/press-release/department-commerce-announces-rescission-biden-era-artificial-intelligence-diffusion-rule-strengthens
13. Wikipedia, "미국으로부터의 암호 기술 수출" (1990년대 암호 수출 통제 및 PGP 사례의 역사), https://en.wikipedia.org/wiki/Export_of_cryptography_from_the_United_States

원문 링크: https://guanjiawei.ai/en/blog/intelligence-as-strategic-resource