시장에서 가장 강력한 모델이 3일 만에 정부에 의해 철수되었습니다. 실제 상황일까요, 아니면 거품일까요?

이 타이밍은 너무나 깔끔해서 마치 현실이 아닌 것 같습니다.

6월 9일, Anthropic은 이전에 일반 공개했던 그 어떤 것보다 더 유능하다고 설명한 "Mythos-class" 모델인 Claude Fable 5를 출시했습니다. 3일 후인 6월 12일, 미국 상무부(US Commerce Department)는 CEO Dario Amodei에게 서한을 보내 Fable 5(및 그 제한적 형제 모델인 Mythos 5)를 수출 통제(export controls) 대상으로 지정했습니다: 미국 외 지역에서의 접근을 금지하고, 미국 내에 있는 외국인(foreign persons)의 접근도 금지한다는 내용이었습니다.

Anthropic은 실시간으로 비미국 사용자들을 다른 사용자들로부터 필터링할 수 없었습니다. 그래서 그들이 할 수 있는 유일한 조치를 취했습니다: 그들은 전 세계 모든 사람을 대상으로 해당 모델을 폐기했습니다. 미국 시민을 포함해서 말이죠.

만약 이번 주말에 세션을 열었을 때 _"선택한 모델(claude-fable-5)에 문제가 있습니다... 접근 권한이 없을 수 있습니다"_라는 메시지를 받았다면, 그것은 귀하의 설정 문제가 아닙니다. 귀하의 세션이 가리키고 있던 모델이 철수된 것입니다. 귀하의 프로젝트, 히스토리, 제한 사항은 그대로 유지되지만, 답변을 제공하는 모델만 변경된 것입니다. Opus 4.8이나 Sonnet으로 전환하면 다시 사용할 수 있습니다.

이제 실제로 고민해 볼 가치가 있는 질문은 이것입니다: 이것은 실제 상황일까요, 아니면 지금 당장 아무도 사용할 수 없는 모델을 두고 모두가 거품을 부풀리고 있는 것일까요?

솔직한 답변은 _둘 다_이며, 흥미로운 부분은 이 두 가지를 분리해 내는 것입니다.

여기서 진정으로 새로운 점은 무엇인가

드라마틱한 상황을 걷어내면 그 밑바탕에는 실제 전례가 존재합니다.

이번 주 전까지 AI 수출 통제(AI export controls)는 하드웨어(hardware), 즉 칩, 리소그래피 장비(lithography machines), 물리적 공급망에 관한 것이었습니다. 병목 지점(chokepoint)은 언제나 실리콘이었습니다. 하지만 방금 일어난 일은 성격이 다릅니다. 정부가 하드웨어를 넘어, 이미 수억 명의 사람들이 사용하고 있던 _배포된 상용 소프트웨어 모델(deployed, commercial software model)_을 철수시킨 것입니다.

그 부분이 바로 기억해 두어야 할 지점입니다. 이는 프런티어 모델 (frontier model)이 이제 하나의 제품이라기보다는, 벤더 (vendor)가 아닌 제3자가 오프 스위치 (off-switch)를 쥐고 있는 이중 용도 기술 (dual-use technology)로 취급받기 시작했음을 의미합니다. 만약 여러분이 이러한 API를 기반으로 서비스를 구축한다면, 모델의 가용성 (availability) 문제는 더 이상 단순한 SLA (Service Level Agreement) 문제나 "벤더가 모델을 지원 중단 (deprecation) 할 것인가"의 문제가 아닙니다. 그것은 지정학적 의존성 (geopolitical dependency)의 문제입니다. 이는 회복 탄력성 (resilience)을 어떻게 생각해야 하는지에 대한 실질적인 변화입니다. 모델 제공자를 다른 모든 핵심 공급망 벤더 (supply-chain vendor)처럼 취급하고, 최상위 모델이 계속 접근 가능한 상태로 유지될 것이라고 가정하지 않는 백업 경로 (fallback path)를 마련해야 합니다.

따라서: 전례는 — 실재합니다. 추적할 가치가 있습니다. 과장이 아닙니다.

거품이 존재하는 곳

여기서부터는 많은 언론 보도가 의도치 않은 마케팅을 수행하고 있다고 생각되는 지점입니다.

공식적인 명분은 탈옥 (jailbreak) 입니다. 보고에 따르면 다른 회사에 의해 발견되어 국가 안보 문제로 정부에 보고되었다고 합니다. 이번 사건에서 가장 유용한 문서인 Anthropic의 자체 답변은, 말하지 않아도 알 수 있는 사실을 명확하게 밝히고 있습니다. 그들이 보여준 기술은 _이전에 알려진 소수의 사소한 취약점 (small number of previously known, minor vulnerabilities)을 노출했을 뿐이라는 것입니다. 이는 **다른 공개적으로 사용 가능한 모델들이 탈옥 없이도 찾아낼 수 있는 수준의 취약점입니다 (그들은 경쟁 관계인 GPT급 모델을 언급했습니다). 즉, "국가 안보 위협"은 Fable 5만이 가진 독보적이고 치명적인 능력 때문이 아니라, 좁고 보편적이지 않은 익스플로잇 (exploit)에 근거하고 있다는 뜻입니다.

이제 여기에 인센티브 구조를 더해봅시다. 이 업계에서 "정부가 금지해야 할 정도로 강력한 모델" 만큼 훌륭한 마케팅은 없습니다. 이 문장은 모델의 성능을 팔고, 안전성 내러티브 ("우리는 규제받을 만큼 진정으로 위험한 것을 만든다")를 팔며, 정부를 비자발적인 공동 서명자로 만들어 모든 헤드라인에서 무료로 홍보됩니다. 후광 효과 (halo effect)는 엄청나며, 이는 시장이 이미 믿고 싶어 하고 이미 기업 가치 (valuation)에 반영하고 있는 이야기와 완벽하게 맞물립니다.

누군가 이를 설계했다고 말하는 것이 아닙니다. 여러분이 선택하지 않은 정지가 어떻게 여러분에게 가장 이득이 되는 내러티브를 그토록 깔끔하게 강화하는지 주목하라는 뜻입니다.

그렇다면 실제로 무엇이 사실일까요?

모호함은 거품이 생존하는 방식이기에, 저는 구체적으로 말씀드리겠습니다.

성능(Capabilities)은 실재합니다. Fable 5는 입력/출력 토큰 100만 개당 10달러 / 50달러로 책정되어 있으며, 이는 Opus 4.8의 대략 두 배 수준입니다. 또한 구독 플랜에서 사용량을 2배로 차감합니다. 유령 같은 존재를 위해 그런 가격을 책정하거나 그만큼의 컴퓨팅 자원 (Compute)을 태우지는 않습니다. 여기에는 진정으로 강력한 모델이 존재합니다.

규제 선례(Regulatory precedent)도 실재합니다. 배포된 상용 모델이 수출 통제 (Export control)에 의해 철수된 것은 이번이 처음입니다. 이는 이러한 API를 기반으로 제품을 출시하는 모든 이들에게 리스크 모델 (Risk model)을 변화시킵니다.

"존재론적 위협 / 존재하기에 너무 위험함"이라는 프레임워크는 대부분 거품입니다. 이는 특정 정부가 하나의 좁은 탈옥 (Jailbreak) 사례에 반응한 결과와, 판매자에게 매우 편리하게 작용하는 후광 효과 (Halo effect)가 결합된 것입니다. Anthropic 스스로도 해당 지침이 오해이며, 해당 취약점 (Exploit)이 독특하지도 심각하지도 않다고 주장하고 있습니다. 만약 정말로 자신의 모델이 문명적 위험 요소라고 믿는다면, 이는 매우 이상한 주장입니다.

제 견해는 이렇습니다: 두 가지 생각을 동시에 유지하십시오. 거버넌스 (Governance) 이야기가 진짜 헤드라인입니다. "역대 가장 무서운 모델" 이야기는 티켓을 파는 수단일 뿐입니다.

이 모델을 기반으로 구축할 때 해야 할 일

철학적인 것이 아닌, 실무적인 조언입니다:

• 가용성 (Availability)을 통제할 수 없는 프런티어 모델 (Frontier model)을 기본값으로 하드코딩하지 마십시오. 폴백 체인 (Fallback chain, 예: Fable → Opus 4.8 → Sonnet)을 설정하고, 최상위 모델이 사라졌을 때 앱이 완전히 망가지는 것이 아니라 기능이 저하 (Degrade)되도록 만드십시오.
• 비싼 모델은 그만한 가치가 있는 작업에만 예약해 두십시오 — 긴 에이전트 실행 (Agentic runs), 어려운 리팩토링 (Refactors), 진정한 다단계 추론 (Multi-step reasoning) 등이 해당됩니다. 비용과 사용량이 2배인 상황에서 모든 것을 최상위 티어로 기본 설정하는 것은, 모델이 사용 가능할 때조차 돈을 불태우는 것과 다름없습니다.
• 아키텍처 문서에서 모델 가용성을 공급망 리스크 (Supply-chain risk)로 취급하십시오. 여러분과 아무런 관련이 없는 이유로 여러분이 의존하는 모델이 사라지는 일은 이번이 마지막이 아닐 것입니다.

모델은 현재 사라진 상태입니다. 확정된 복구 날짜는 없습니다. Anthropic은 액세스(access)를 복구하기 위해 노력 중이라고 밝히며, 이번 사건 전체를 오해(misunderstanding)로 규정하고 있습니다. 그때까지 Opus 4.8은 우리 중 누구라도 실제로 출시하는 작업의 압도적인 대다수에서 여전히 제 역할을 수행합니다.

모델은 떠났습니다. 하지만 내러티브(narrative)는 여전히 여기에 남아, 제 역할을 다하고 있습니다.