Anthropic의 Fable/Mythos 중단은 최초의 실제 모델 수출 통제 충격이다

이번 주 중요한 AI 뉴스는 단순히 Anthropic이 더 큰 Claude 모델을 출시했다는 것이 아닙니다. 미국 정부가 Anthropic에 두 모델에 대한 외국 국적자의 접근을 차단하라고 지시했다는 점이며, Anthropic은 규정 준수(compliance) 문제를 해결하는 동안 고객들에게 해당 모델을 비활성화하는 것이 실질적인 답변이었다고 밝혔습니다.

이는 속도 제한(rate limits)이나 가격 변동과는 매우 다른 종류의 플랫폼 리스크입니다. 프론티어 모델(frontier models)을 기반으로 구축하고 있다면, 이제 수출 통제 결정, 안전성 주장, 그리고 지정학적 압력으로 인해 모델 접근 권한이 변동될 수 있습니다.

무슨 일이 일어났는가

Anthropic은 6월 9일에 Claude Fable 5와 Claude Mythos 5를 발표했습니다. Fable 5는 소프트웨어 엔지니어링, 지식 노동, 시각(vision), 과학 연구 및 더 길고 복잡한 작업 전반에서 더 강력한 성능을 발휘하는 Anthropic의 가장 유능한 범용 사용 가능(generally available) 모델로 설명되었습니다. Mythos 5는 그보다 상위 단계로 배치되었으며, Claude Mythos Preview의 업그레이드 버전으로서 Anthropic은 사이버 방어(cyber-defence) 및 생명 과학(life-sciences) 활용 사례를 강조했습니다.

3일 후, Anthropic은 직설적인 업데이트를 게시했습니다. 미국 정부가 Anthropic에 대해 미국 내외를 불문하고 외국 국적자(외국 국적의 Anthropic 직원 포함)의 Fable 5 및 Mythos 5에 대한 모든 접근을 중단하도록 요구하는 수출 통제 지침(export-control directive)을 발행했다는 내용입니다.

Anthropic은 해당 명령이 동부 표준시(ET) 기준 6월 12일 오후 5시 21분에 도착했으며, 상세한 세부 사항은 포함되지 않았다고 밝혔습니다. 또한 정부가 Fable 5에 대한 탈옥(jailbreaking) 방법을 인지하게 되었다고 믿고 있다는 것이 Anthropic이 이해한 내용이었습니다. Anthropic은 다른 모델에 대한 접근은 영향을 받지 않았으나, "순 효과(net effect)"로서 규정 준수를 보장하기 위해 고객들을 대상으로 Fable 5와 Mythos 5를 갑작스럽게 비활성화해야 했다고 말했습니다.

6월 19일 Al Jazeera의 후속 보도는 그 파급 효과(downstream effect)를 명확하게 규정합니다. 즉, 동맹국들과 기업들이 이제 미국 프런티어 모델(frontier-model) 접근성에 대한 의존도를 더 심도 있게 고민해야 하는 상황에 처했다는 것입니다. 또한 Anthropic이 서비스 중단 전, 취약점 테스트를 위해 15개국 전역의 약 200개 기관에 Claude Mythos Preview에 대한 접근 권한을 부여했었다고 보고했습니다.

빌더(builders)가 주목해야 하는 이유

만약 당신의 제품이 최신 프런티어 모델에 의존하고 있다면, 이것은 경고 사격입니다. 모델은 당신의 사용량, 결제, 또는 엔지니어링 품질과 전혀 상관없는 이유로 사라질 수 있습니다.

몇 가지 실질적인 시사점은 다음과 같습니다:

• 제품 전략에 단 하나의 프런티어 모델을 하드코딩(hard-code)하지 마십시오. 추상화 계층(abstraction layers)을 얇지만 실질적으로 유지하십시오. 프롬프트(prompts), 평가(evals), 폴백(fallbacks), 그리고 라우팅(routing)은 특정 모델이 항상 사용 가능하다는 가정을 해서는 안 됩니다.
• 모델의 지리적 위치를 제품 요구사항(product requirement)으로 취급하십시오. 미국 외 지역에 제품을 판매한다면, 어떤 고객, 직원, 계약업체 또는 워크로드(workloads)가 접근 규칙의 영향을 받을 수 있는지 확인하십시오.
• 지루할 정도로 확실한 폴백(fallback) 경로를 유지하십시오. 제품을 계속 작동하게 만드는 약간 더 약한 모델이, 아름다운 서비스 중단보다 훨씬 낫습니다.
• 안전(safety) 및 사이버 정책 뉴스를 API 변경 로그(changelog) 뉴스처럼 주시하십시오. 이번 사건의 트리거는 일반적인 제품 단종(deprecation)이 아니었습니다. 이는 소위 탈옥(jailbreak) 위험과 관련된 국가 안보/수출 통제 조치였습니다.

이는 또한 오픈 모델(open models)과 로컬 모델(local models)을 전략적으로 더 중요하게 만듭니다. 이 모델들이 모든 워크로드를 위해 프런티어 연구소(frontier labs)를 대체하지는 않겠지만, 호스팅된 모델에 대한 접근이 하룻밤 사이에 변경될 때 팀들에게 레버리지(leverage)를 제공할 것입니다.

주의사항

우리가 아직 모르는 것이 많습니다. Anthropic은 정부 서신이 세부적인 구체 사항을 제공하지 않았다고 밝혔습니다. 우리는 정확한 탈옥(jailbreak) 방법, 명령 뒤에 숨겨진 전체 법적 이론, 또는 언제 접근이 재개될지 알지 못합니다.

하지만 리스크의 형태는 이제 가시화되었습니다. 프런티어 AI는 규제 대상 인프라(regulated infrastructure)가 되어가고 있습니다. 그에 맞춰 구축하십시오. 그것이 진실입니다.

출처

• Anthropic: Fable 5 및 Mythos 5에 대한 액세스 중단에 관한 미국 정부 지침에 대한 성명
• Anthropic: Claude Fable 5 및 Claude Mythos 5 출시 게시물
• Al Jazeera: Anthropic AI 모델에 대한 미국의 수출 금지가 동맹 관계를 더욱 악화시키다