2026년 7월 1일, Anthropic은 몇 주간의 정부 검토와 재개된 접근 권한 협상 끝에 Fable 5에 대한 광범위한 접근을 복구했습니다. 이 사건은 6월 12일, Amazon이 해당 모델들이 고도화된 사이버 공격의 장벽을 낮출 수 있다고 경고한 후 미국 상무부(Commerce Department)가 Anthropic에 Fable 5와 Mythos 5의 사용 중단을 명령하면서 시작되었습니다. Anthropic은 이후 정부가 Fable 5에 대한 제한을 해제했다고 밝혔으나, Mythos 5는 현재로서는 선택된 미국 기관들에게만 제공될 예정입니다.

이것은 처음에는 좁게 보이지만, 이후 훨씬 더 큰 질문으로 확장되는 종류의 이야기입니다. 모델 출시가 공공 거버넌스(governance) 이벤트가 된 것입니다. 이제 핵심 쟁점에는 기업, 정부, 클라우드 파트너, 연구자 및 고객이 강력한 모델이 통제된 출시(controlled release) 단계에서 광범위한 사용 단계로 넘어갈 준비가 되었을 때를 어떻게 결정할 것인가가 포함됩니다.

모델 출시가 보안 경계가 되다

프론티어 AI(Frontier AI)는 과거에 능력 차트, 벤치마크 점수 상승, 컨텍스트 윈도우(context windows), 코딩 점수, 그리고 새로운 모델이 더 똑똑하게 느껴지는지에 대한 익숙한 질문들을 통해 논의되어 왔습니다. Fable 5는 가장 민감한 우려 사항이 실행 가능성(actionability)이었기 때문에 그 프레임을 바꾸어 놓았습니다. 만약 모델이 취약점을 통해 추론하고, 전술을 체인처럼 연결하며, 운영자가 공격 경로(exploitation paths)를 이해하도록 도울 수 있다면, 동일한 능력이 방어자와 공격자 모두를 지원할 수 있기 때문입니다.

Anthropic은 Fable 5를 고도화된 사이버 방어 및 공격적 분석(offensive analysis)을 지원할 수 있는 모델로 설명했습니다. 이러한 이중 용도(dual use) 프로필은 왜 이 회사가 전면적인 금지에는 저항하면서도 더 엄격한 안전 태세(safety posture)를 수용했는지를 설명해 줍니다. Anthropic에 따르면, 추가적인 안전 장치가 추가된 후 접근 권한이 복구되었습니다. 고위험으로 분류된 요청은 더 보수적인 모델인 Opus 4.8로 라우팅되며, 회사는 이 접근 방식이 많은 합법적인 보안 작업을 가능하게 유지하면서도 검증된 유해 프롬프트의 99% 이상을 차단한다고 밝혔습니다.

그러한 균형은 보안 연구원들이 종종 경계선 근처에서 작업하기 때문에 중요합니다. 취약점에 관한 프롬프트는 패치 분석 (patch analysis), 사고 대응 (incident response), 익스플로잇 재현 (exploit reproduction) 또는 악성코드 연구 (malware study)의 일부일 수 있습니다. 취약한 안전 계층 (safety layer)은 남용을 허용할 수 있고, 지나치게 투박한 안전 계층은 사회에 꼭 필요한 방어 작업 자체를 저해할 수 있습니다. Fable 5에 적용된 출시 게이트 (release gate)는 프론티어 AI 거버넌스 (frontier AI governance)가 정책 문제만큼이나 제품 설계 문제로 변모하고 있음을 보여줍니다.

다음 전투는 리스크 스코어링 (risk scoring)이다

Anthropic의 대응에서 가장 흥미로운 부분은 탈옥 (jailbreak)에 대해 제안된 공유된 심각도 프레임워크 (shared severity framework)입니다. 이 회사는 탈옥 시연을 평가하는 공통된 방식을 만들기 위해 Amazon, Microsoft, Google, 그리고 Glasswing Ventures와 협력하고 있다고 밝혔습니다. 목표는 연극적인 데모와 위험한 능력을 실질적으로 증가시키는 발견을 구분하는 것입니다. 유용한 프레임워크라면 탈옥이 얼마나 많은 새로운 능력을 드러내는지, 얼마나 광범위하게 적용되는지, 무기화하기가 얼마나 쉬운지, 그리고 다른 사람들이 얼마나 쉽게 이를 발견할 수 있는지를 고려해야 할 것입니다.

이는 기술적으로 들리지만, 문화적인 효과도 있습니다. AI 안전 (AI safety) 분야는 극적인 사례들이 빠르게 퍼지기 때문에 종종 극적인 사례들에 보상을 주곤 했습니다. 공유된 스코어링 시스템 (scoring system)은 대화의 흐름을 재현 가능성 (repeatability), 측정 가능한 피해 (measurable harm), 그리고 운영적 대응 (operational response) 쪽으로 유도할 것입니다. 또한 정부가 출시를 중단, 승인 또는 범위를 좁혀야 할 더 명확한 근거를 제공할 것입니다. 모델의 능력이 제도적 관습보다 빠르게 움직이는 시장에서, 합의된 임계값 (thresholds)은 누구에게도 실제 위험을 무시하라고 요구하지 않으면서도 공포를 줄일 수 있습니다.

Fable 5 에피소드는 또한 왜 민간 평가 (private evaluations)만으로는 권위를 잃어가고 있는지를 보여줍니다. 기업은 정책을 발표하고, 레드팀 (red teams)을 운영하며, 안전 지표 (safety metrics)를 제시할 수 있습니다. 사이버 보안, 금융, 과학 연구 및 국가 인프라에 영향을 미칠 수 있는 모델의 경우, 외부의 신뢰는 여전히 독립적인 조사 (independent scrutiny)에 달려 있습니다. 대중이 모든 내부 세부 사항을 알 필요는 없습니다. 다만 역량 주장 (capability claims)과 안전 주장 (safety claims)이 양측을 모두 이해할 수 있는 충분한 맥락을 가진 사람들에 의해 검증되고 있다는 확신이 필요할 뿐입니다.

지식 노동에는 이제 출시 규율 (release discipline)이 필요합니다

연구자, 창업자 및 분석가들에게 이 교훈은 사이버 정책 그 이상의 의미를 갖습니다. 지식 노동은 AI의 도움을 받는 단계들의 사슬 (chain)이 되어가고 있습니다. 한 팀은 ChatGPT를 사용하여 정책 질문을 위협 모델 (threat model)로 변환한 다음, Gemini를 사용하여 규제 신고서, 스크린샷, 모델 노트 및 뉴스 보도를 비교할 수 있습니다. 안전 논문에 수학적 표기나 벤치마크 공식이 포함된 경우, Miss Formula를 통해 공식 이미지를 편집 가능한 텍스트로 변환할 수 있습니다. AI가 생성한 다이어그램을 보고서나 논문을 위한 깔끔한 도표로 만들어야 할 때는 Editable Figure를 사용하여 편집 가능한 벡터 형식 (vector format)으로 변환할 수 있습니다.

이러한 워크플로 (workflow)는 실용적이며, 동시에 왜 모델 출시 규율 (model release discipline)이 중요한지를 보여줍니다. 동일한 조직이 이제 여러 도구에 걸쳐 프롬프트 (prompts), 소스 파일, 다이어그램, 공식, 레드팀 노트, 고객 증거 및 출판 초안을 보유하게 될 수 있습니다. 만약 프론티어 모델 (frontier model)이 이 사슬 안에 자리 잡고 있다면, 신뢰는 추적 가능성 (traceability)에 달려 있습니다. 사람들은 어떤 모델이 사용되었는지, 어떤 출처를 참조했는지, 어떤 권한이 부여되었는지, 그리고 인간의 검토 (human review)가 프로세스의 어느 단계에 개입했는지를 알 필요가 있습니다.

그런 의미에서 Fable 5는 AI 생산성 스택 (AI productivity stack) 전체에 대한 경고입니다. 더 나은 도구들은 진지한 업무를 더 빠르게 만들겠지만, 더 빠른 업무에는 더 깨끗한 출처 (provenance)와 더 명확한 체크포인트 (checkpoints)가 필요합니다. AI를 위한 미래의 사용자 인터페이스 (UI)에는 로그 (logs), 액세스 경계 (access boundaries), 검토 상태 (review states), 그리고 릴리스 노트 (release notes)가 조용히 포함될 것입니다. 이러한 세부 사항들은 새로운 벤치마크 기록만큼 흥미롭게 느껴지지 않을 수도 있습니다. 하지만 이것들은 모델의 성능을 신뢰할 수 있는 업무로 전환해 주는 세부 사항들입니다.

역량은 규제되는 자산이 되고 있다

수출 통제 (export control) 관점은 모델의 역량 (capability)을 전략적 자산으로 취급하기 때문에 특히 중요합니다. 소프트웨어는 항상 국경을 쉽게 넘나들었습니다. 클라우드 기반 (Cloud hosted) AI는 그 흐름을 훨씬 더 유동적으로 만듭니다. 모델은 브라우저를 통해 이용 가능하고, 워크플로우 (workflow)에 내장될 수 있으며, 민감한 시스템에 닿는 도구들과 연결될 수 있습니다. 일단 정부가 그 역량을 사이버 공격 (cyber offense)과 관련이 있다고 간주하면, 액세스 정책 (access policy)은 제품의 일부가 됩니다.

이는 긴장을 유발할 것입니다. 개발자들은 광범위한 액세스를 원합니다. 보안 팀은 예측 가능성을 원합니다. 정부는 국경을 넘나드는 리스크에 대한 영향력을 원합니다. 고객은 갑작스러운 중단 없이 유용한 모델을 원합니다. 모델 연구소 (Model labs)는 자체 릴리스를 관리할 수 있음을 증명하는 동시에 빠르게 움직이기를 원합니다. Fable 5의 일시 중단과 재개는 이러한 모든 이해관계가 단일 출시 주기 내에서 어떻게 충돌할 수 있는지를 보여줍니다.

가장 건강한 결과는 다음 위기가 오기 전에 성숙해지는 출시 문화 (release culture)일 것입니다. 기업은 더 명확한 안전 사례 (safety cases)를 발표할 수 있습니다. 정부는 검토 타임라인과 임계값 (thresholds)을 정의할 수 있습니다. 클라우드 플랫폼은 고객의 액세스를 모델 리스크와 일치시킬 수 있습니다. 연구자들은 구경거리보다 증거를 중시하는 채널을 통해 탈옥 (jailbreaks) 사례를 보고할 수 있습니다. 사용자들은 컨텍스트 (context), 권한 (permissions), 그리고 검토 이력 (review history)을 보존하는 도구를 요구할 수 있습니다.

신뢰는 통제된 유용성에서 올 것이다

Fable 5가 다시 광범위한 접근 권한을 갖게 된다고 해서 논쟁이 종결되는 것은 아닙니다. 오히려 논쟁을 더욱 구체화할 뿐입니다. 프론티어 AI (Frontier AI)는 질문의 초점이 원시 지능 (raw intelligence)보다는 통제된 유용성 (controlled usefulness)으로 옮겨가는 단계에 진입하고 있습니다. 더 어려운 문제를 해결할 수 있는 모델일수록, 그 동작이 제한되고 (bounded), 모니터링되며 (monitored), 개선될 수 있다는 (improved) 더 강력한 증거를 필요로 할 것입니다.

2026년 7월을 향한 신호는 명확합니다. 고급 AI는 거버넌스가 적용되는 인프라 (governed infrastructure)가 되어가고 있습니다. 이 단계의 승자들은 강력한 모델을 구축할 것이며, 동시에 그 모델들을 둘러싼 출시 규율 (release discipline) 또한 구축할 것입니다. 신뢰는 사람들이 검사하고, 이의를 제기하며, 수정할 수 있는 충분한 증거를 남기면서도 가치 있는 일을 수행할 수 있는 시스템으로부터 나올 것입니다.