미국 정부의 Fable 5 및 Mythos 5 접근 제한 지시와 그 선례적 의미

US government directive to suspend access to Fable 5 and Mythos 5. To explain in detail why this is a precedent. My personal assessment:

• 첫째, 이는 정부가 모델 출시에 직접 개입한 최초의 사례이기 때문입니다. 제시된 이유는 다른 회사(WSJ는 Amazon으로 파악)가 Mythos 5/Fable 5를 탈옥(jailbreak)했기 때문에 Anthropic에게 모든 사람의 접근을 차단하도록 명령했기 때문입니다. (Axios에 따르면, 행정부는 이전에 Anthropic이 출시되는 것을 막으려 했으나 실패했고, 결국 수출 서신으로 방법을 바꿨다고 합니다. 스크린샷 참고)

• 하지만 해당 규정은 오직 외국인 직원과 외국 회사에만 영향을 미친다고 명확히 규정하고 있습니다. 따라서 명확하고 간접적인 메시지는 다음과 같습니다: 우리, 즉 미국 정부는 이 (강력한, 주로 공격 사이버 역량에 관한) 모델이 외국 주체들에 의해 사용되는 것을 원하지 않는다. 특히 그들이 가드레일(guardrails)을 우회할 수 있는 경우 말입니다. 왜일까요? (적어도 제 추측으로는) 미국 정부가 자신들의 국가 권력의 지배력에 반하는 도구로 Mythos/Fable이 사용되는 것을 원치 않기 때문입니다.

• 하지만 실제로 중요한 점은 이제 모두에게 명확해야 할 경고 신호라는 것입니다. 물론 항상 명확했지만, AI2027은 이에 대해 경고했습니다: 모델들이 너무 강력해지면 국가 정부는 그 보안을 민간 기업에 맡기지 않을 것이라는 것입니다. 이것이 바로 선례입니다. 중국의 경우, 이는 분명히 예측 가능했으며, 이 순간은 필연적이었습니다. 유럽의 경우, 두 가지가 명확해지고 있습니다:

1. AI와 관련하여 주권적이지 못하다는 점입니다. 가장 강력한 모델들은 미국에 의존하며, 국내 유럽 시장에서 경쟁할 방법이 없습니다.

2. 그들은 이러한 모델들을 따라가지 못하는 상황을 피하기 위해 미국과 좋은 관계를 유지해야 한다는 압박감을 더욱 느낍니다. 의존도가 커지고 있습니다. 저는 농담 삼아 EU가 자체적인 프론티어 모델(frontier models)을 개발해야 한다고 썼지만, 기껏해야 'Claudia 5 규제 (Regulatory), 규제 벤치마크에서 SOTA' 같은 수준의 미흡한 모방품이 될 가능성이 높습니다. 유감스럽게도, 그 안에 담긴 진실이 더 클지도 모릅니다.

이러한 측면에서 이 이유들은 경각심을 일깨우는 계기이자 새롭게 떠오르는 신선함(novelty)을 나타냅니다.

Amodei는 '신화(Myth)'가 매우 강력하다고 경고했습니다. 미국 정부 역시 이러한 견해를 공유하며 자국의 주권을 보호하고자 합니다. 여기서 특이한 점은 외국 기업과 직원의 배제를 허용한다는 개방성입니다.

[image: https://pbs.twimg.com/media/HKrv1RpWAAAVpBk.jpg