GPT-5.6 출시 보고와 Anthropic의 Fable 5 중단이 클라우드 AI에 대해 시사하는 점

만약 당신의 업무가 프런티어 (Frontier) AI 모델에 의존하고 있다면, 이제 중요한 질문은 그 모델이 얼마나 유능한가만이 아닙니다.

누가 당신의 접근을 지연시키거나, 제한하거나, 혹은 철회할 수 있는가 하는 점도 중요합니다.

6월 25일, 여러 뉴스 매체들은 OpenAI가 GPT-5.6이라 불리는 모델의 단계적 프리뷰 (staged preview)를 준비하고 있다고 보도했습니다. 해당 보고들에 따르면, 이 모델은 광범위한 출시 이전에 약 20여 개의 파트너사에게 우선적으로 제공될 예정이라고 합니다.

Reuters는 미국 정부가 보안 우려를 이유로 OpenAI에 출시를 단계적으로 진행할 것을 요청했다고 보도했습니다. Reuters가 인용한 The Information은 프리뷰 기간 동안의 접근 권한이 고객별로 승인될 것이라고 전했습니다.

Reuters가 이곳에서 해당 내용을 보도했습니다.

보도 내용과 공식 확인 사이에는 차이가 존재합니다.

본 기사가 작성된 시점에 OpenAI는 GPT-5.6을 공개적으로 발표하거나 보고된 출시 계획을 확인해주지 않았습니다. 이 보고들이 해당 모델이 영구적으로 보류되었다거나, 광범위한 출시가 취소되었다거나, 혹은 미국 정부가 모든 프런티어 모델 출시 전에 정부 라이선스를 요구하게 되었다는 사실을 확정 짓는 것은 아닙니다.

하지만 이것은 단발적인 사건이 아니었습니다.

그보다 2주도 채 되지 않아, Anthropic은 외국 국적자의 접근에 관한 미국 정부의 지침으로 인해 모든 고객에 대해 Claude Fable 5 및 Claude Mythos 5의 사용을 중단하게 되었다고 공식적으로 밝혔습니다.

두 사례는 법적으로는 다릅니다.

그럼에도 불구하고 동일한 실질적인 질문을 던집니다:

누가 가장 유능한 AI 시스템을 누가 사용할 수 있을지 결정하며, 그 결정이 바뀌었을 때 사용자들에게 무엇이 남아있게 되는가?

두 가지 서로 다른 사례, 하나의 연속성 문제

6월 12일, Anthropic은 미국 정부가 수출 통제 지침 (export-control directive)을 발행하여, 외국 국적자(foreign nationals)가 미국 내부에 있든 외부에 있든 관계없이 Fable 5 및 Mythos 5에 대한 접근을 중단할 것을 회사에 요구했다고 밝혔습니다.

Anthropic은 이 제한이 자사의 외국 국적 직원들에게도 적용된다고 말했습니다.

Anthropic의 공식 성명은 여기에서 확인할 수 있습니다.

해당 지침 자체가 Anthropic에 모든 고객을 대상으로 모델을 비활성화하라고 명령한 것은 아니었습니다.

Anthropic은 국적 기반의 제한 사항을 충분한 확신을 가지고 즉각적으로 집행할 수 없었기 때문에 완전한 중단 (complete shutdown)을 선택했다고 밝혔습니다. 회사의 다른 모델들은 계속 사용할 수 있는 상태로 유지되었습니다.

이 차이점은 중요합니다:

• 정부는 더 좁은 범위의 제한을 요구했습니다.
• 제공업체의 준수 대응 (compliance response)은 더 광범위한 중단을 초래했습니다.

하지만 사용자들에게 결과는 단순했습니다.

모델은 존재했습니다. 작동했습니다. 고객들은 접근할 수 있었습니다. 그러다 정부의 결정이 내려졌고, 이어서 제공업체가 이를 이행함으로써 모델을 사용할 수 없게 되었습니다.

어떤 AI 기업도 붕괴할 필요는 없었습니다. 인터넷이 사라질 필요도 없었습니다. AI 서비스가 카테고리로서 금지될 필요도 없었습니다.

더 좁은 범위의 정책 결정만으로도 특정 모델에 대한 접근을 차단하기에는 충분했습니다.

Anthropic은 또한 해당 지침이 국가 안보 우려 (national-security concern)에 대해 상세히 설명하지 않았다고 말했습니다. 회사는 이 문제가 Fable 5의 안전장치 (safeguards)를 우회하는 방식과 관련이 있다고 믿었으나, 입증된 위험의 심각성에 대해서는 이견을 보였습니다.

사용자들은 그 이견이 해결되기도 전에 접근 권한을 잃었습니다.

보고된 OpenAI의 사례는 다릅니다.

Anthropic은 지침과 실제 서비스 중단을 확인했습니다. OpenAI의 GPT-5.6 출시는 제한된 프리뷰 (limited preview)를 위한 계획으로 보고된 상태로 남아 있습니다. 미국 정부가 추후의 광범위한 출시를 금지했다는 공개적인 증거는 없습니다.

그럼에도 불구하고, 보고된 프리뷰는 일반적인 프라이빗 베타 (private beta)를 넘어선 것으로 보입니다.

첫 번째 사용자들은 OpenAI 단독으로 선정되지 않을 것입니다. 보도에 따르면 정부가 어떤 고객에게 접근 권한을 부여할지 결정하는 과정에 관여할 것이라고 합니다.

이는 다른 형태의 관계를 만들어냅니다:

AI 제공자 (AI provider)
    ↓
정부 보안 검토 및 조기 접근 선정 (government security review and early-access selection)
...

제공자는 여전히 모델을 구축하고 운영합니다. 정부가 공식적인 거부권 (veto)을 갖지는 않을 수도 있습니다.

하지만 가장 강력한 시스템을 사용할 수 있도록 허가된 첫 번째 그룹이 더 이상 반드시 제공자에 의해서만 선정되는 것은 아닙니다.

더 광범위해진 미국의 출시 전 검토 시스템

OpenAI와 Anthropic만이 관련된 기업은 아닙니다.

2024년, 미국 AI 안전 연구소 (US AI Safety Institute)는 두 회사 모두와 테스트 및 평가 협약을 체결했습니다. 이후 미국과 영국의 기관들은 OpenAI의 o1과 Anthropic의 업그레이드된 Claude 3.5 Sonnet을 포함한 모델들에 대한 배포 전 평가 (pre-deployment evaluations) 결과를 발표했습니다.

NIST는 여기서 해당 협약을 발표했습니다.

2026년 5월, Reuters는 Google DeepMind, Microsoft, 그리고 xAI 또한 국가 안보 테스트를 위해 미 정부에 미출시 모델을 제공하기로 합의했다고 보도했습니다.

정부는 Meta에게도 유사한 프레임워크 (framework)에 참여할 것을 압박해 왔습니다.

Reuters는 여기서 확장된 검토 절차에 대해 설명했습니다.

이 정책은 6월 2일, 백악관이 행정 명령 14409호인 “첨단 인공지능 혁신 및 보안 촉진 (Promoting Advanced Artificial Intelligence Innovation and Security)”을 발표하면서 더욱 명확해졌습니다.

이 명령은 개발자들이 다음과 같은 활동을 할 수 있는 자발적 프레임워크를 요구합니다:

• 개발 중인 모델이 대상 프런티어 모델 (covered frontier model)에 해당하는지 문의
• 출시 전 다른 신뢰할 수 있는 파트너들에게 접근 권한을 부여하기 전에 연방 정부에 접근 권한을 부여
• 이러한 신뢰할 수 있는 파트너를 식별하기 위해 정부와 협력

행정 명령 전문은 여기에서 확인할 수 있습니다.

동일한 명령문은 해당 프레임워크(framework)가 새로운 AI 모델에 대한 정부의 의무적인 라이선스(licensing), 사전 승인(preclearance) 또는 허가(permitting)를 생성하는 것으로 해석되어서는 안 된다고 명시적으로 밝히고 있습니다.

이러한 제한 사항은 중요합니다.

미국은 모든 프런티어 모델(frontier model)이 출시되기 전에 정부의 허가를 요구하는 일반적인 규칙을 단순히 만든 것이 아닙니다.

하지만 실질적인 의문이 남아 있습니다:

만약 정부가 국가 안보상의 이의를 제기한다면, 주요 AI 제공업체가 그 요청을 무시하고 계획대로 진행하는 것이 얼마나 현실적이겠습니까?

자발적 테스트(Voluntary testing), 신뢰할 수 있는 파트너 선정(trusted-partner selection), 수출 통제(export controls), 그리고 고객별 승인(customer-by-customer approval)은 서로 다른 법적 메커니즘입니다.

그러나 이들이 함께 작동할 때, 사용자 측면에서는 결과적으로 허가제처럼 보이기 시작할 수 있습니다:

모델이 존재하더라도 당신에게는 제공되지 않을 수 있습니다.

보안 검토(Security Review)는 접근 거버넌스(Access Governance)와 동일하지 않습니다

모델 출시 전에 강력한 모델을 평가해야 하는 정당한 이유들이 있습니다.

프런티어 시스템(Frontier systems)은 코드를 작성하고 실행하며, 취약점을 검색하고, 긴 작업을 자동화하며, 과학적 연구를 지원하고, 복잡한 운영 결정을 도울 수 있습니다.

정부는 다음과 같은 사항들을 우려합니다:

• 사이버 공격(cyberattacks)
• 생물학적 및 화학적 오용(biological and chemical misuse)
• 군사 및 정보 애플리케이션(military and intelligence applications)
• 적대적 행위자(hostile actors)에게 전략적 역량이 전이되는 것
• 모델이나 그 가중치(weights)가 널리 퍼진 후에는 되돌릴 수 없는 출시

따라서 배포 전의 엄격한 검토(pre-deployment review)는 합리적일 수 있습니다.

하지만 모델의 안전성을 평가하는 것과 누가 그것을 사용할 수 있는지 결정하는 것은 같은 문제가 아닙니다.

중요한 질문들이 남아 있습니다:

• 조기 접근 (early access) 기준이 공개될 것인가?
• 거절된 조직들에게 거절 사유가 통보될 것인가?
• 외국 사용자들과 중소기업들은 항상 더 늦게 접근 권한을 받게 될 것인가?
• 이미 부여된 접근 권한이 예고 없이 철회될 수 있는가?
• 가장 강력한 버전들이 점점 더 정부와 선정된 기업들로만 제한될 것인가?

제한 조치는 정당화될 수 있지만, 사용자들에게는 연속성 위험 (continuity risk)을 초래할 수 있습니다.

서로 다른 법률이 동일한 사용자 경험을 만들어낼 수 있다

다른 국가들이 서로 다른 법적 메커니즘을 사용하고는 있지만, AI 접근성을 형성하고 있는 곳이 미국뿐만은 아닙니다.

• 중국은 서비스 규칙, 보안 평가, 그리고 알고리즘 등록을 통해 공개 생성형 AI (generative-AI) 서비스를 규제합니다.
• **유럽연합 (EU)**은 범용 AI (general-purpose AI) 제공업체에 법적 의무를 부과하며, 시스템적 위험 (systemic risk)을 초래하는 것으로 간주되는 모델에는 추가적인 의무를 부여합니다.
• 영국은 프런티어 모델 (frontier-model) 개발사들과의 협력적인 배포 전 평가 (pre-deployment evaluation)를 강조합니다.
• 이탈리아와 대한민국은 데이터 보호법을 통해 AI 서비스를 제한해 왔습니다.
• 일본은 현재 일반적인 출시 전 승인보다는 진흥, 국가 계획, 그리고 리스크 대응을 강조하고 있습니다.

이러한 시스템들은 법적으로 동일하지 않습니다.

중국의 공공 서비스 규칙은 EU AI 법 (EU AI Act)과 같지 않습니다. 이탈리아의 개인정보 보호 집행은 미국의 수출 통제 (export controls)와 같지 않습니다. 영국의 평가는 고객별 승인 방식과 같지 않습니다.

공통점은 더 좁은 범위에 있습니다:

클라우드 AI에 대한 접근은 사용자와 제공업체 간의 계약 외적인 이유로 변경될 수 있다.

모델은 한 국가에서 개발되고, 다른 국가의 기업에 의해 운영되며, 제3의 법적 체계의 적용을 받는 고객에 의해 사용될 수 있습니다.

클라우드 AI 접근성은 더 이상 제공업체에 의해서만 결정되지 않습니다.

가능성 높은 미래는 파편화된 접근이다

가장 그럴듯한 위험은 모든 첨단 AI가 하룻밤 사이에 사라지는 것이 아닙니다.

그것은 바로 파편화된 접근 (fragmented access) 환경입니다:

• 국가마다 새로운 모델을 받는 시점이 다릅니다.
• 신원, 국적 또는 조직 검증 (verification)이 필요해집니다.
• 기업 사용자는 개인이 가질 수 없는 기능을 제공받습니다.
• 배포된 모델이 법적 또는 보안적 결정에 따라 철회됩니다.
• 구형 모델이 은퇴(retired)되어 원래의 작업 환경을 재현할 수 없게 됩니다.

AI는 풍부하게 존재할지라도, 개인이 의존하는 특정 AI 환경은 일시적인 것이 될 수 있습니다.

이제 중요한 질문은 단지 다음과 같은 것이 아닙니다:

AI가 존재하는가?

또한 다음과 같은 질문이기도 합니다:

내가 동일한 조건 하에서 이를 계속 사용할 수 있는가?

손실은 모델 성능보다 더 큽니다

사람들은 항상 AI를 상태가 없는 (stateless) 계산기처럼 사용하지 않습니다.

사람들은 장기적인 대화, 프로젝트 이력, 글쓰기 선호도, 지침 (instructions), 파일, 워크플로 (workflows), 연구 맥락 (research context), 그리고 운영 습관을 클라우드 서비스 내에 배치합니다.

만약 접근 방식이 변한다면, 사용자는 단순히 특정 수준의 지능 그 이상을 잃을 수도 있습니다.

그들은 자신의 작업이 의미를 가졌던 환경 자체를 잃을 수도 있습니다.

그것이 바로 "그냥 제공업체를 바꾸면 된다"라는 조언이 불완전한 이유입니다.

교체 (switching)가 쉬운 경우는 오직 모델만이 교체되는 유일한 구성 요소일 때뿐입니다.

다음 요소들이 하나의 제공업체에 묶여 있을 때는 훨씬 더 어려워집니다:

• 메모리 (memory);
• 권한 (permissions);
• 프로젝트 상태 (project state);
• 대화 이력 (conversation history);
• 데이터 형식 (data formats);
• 도구 (tools);
• 파일 (files); 그리고
• 축적된 결정들 (accumulated decisions).

그 시점에서 모델을 변경한다는 것은 전체 작업 환경을 다시 구축해야 함을 의미할 수 있습니다.

다각화는 이미 연속성 전략이 되고 있습니다

이는 개인 사용자에게만 해당되는 이론적인 우려가 아닙니다.

Reuters는 6월 22일, Siemens, Renault, Orange, ChapsVision을 포함한 기업들이 특정 제공업체에 대한 의존도를 낮추기 위해 이미 미국, 중국, 유럽 모델의 조합을 사용하고 있다고 보도했습니다.

Reuters는 해당 전략에 대해 여기서 보도했습니다.

여러 경영진은 기술적 주권(technological sovereignty)을 완전한 고립이라기보다는 선택의 문제이자 신뢰할 수 있는 대안의 문제로 설명했습니다.

이는 중요한 차이입니다.

독립성이 모든 외부 서비스를 거부해야 한다는 것을 의미하지는 않습니다.

그것은 특정 서비스가 더 이상 사용 불가능해졌을 때 계속해서 지속할 수 있는 능력을 유지하는 것을 의미할 수 있습니다.

동일한 원칙이 개인용 AI (personal AI)에도 적용됩니다.

doll이 보존하고자 하는 것

doll은 현재 개발 중입니다. 이 섹션은 완성된 제품의 기능이 아닌 설계 목적을 설명합니다.

doll은 미래의 모든 프런티어 시스템 (frontier system)에 필적하는 로컬 모델을 구축하려는 시도가 아닙니다.

강력한 클라우드 모델을 사용할 수 있을 때는 그것을 사용하는 것이 최선의 선택일 수 있습니다.

이 프로젝트는 개인용 AI 환경의 지속 가능한 부분들을 사용자의 통제 하에 두는 것을 목표로 합니다:

• 메모리 (memory), 선호도 (preferences), 정책 (policies), 그리고 권한 (permissions);
• 대화 (conversations), 프로젝트 (projects), 체크포인트 (checkpoints), 그리고 결정 (decisions);
• 문서 (documents), 증거 (evidence), 연구 기록 (research records), 그리고 생성된 결과물 (generated artifacts);
• 마이그레이션 (migration), 백업 (backup), 복원 (restoration), 그리고 복구 경로 (recovery paths).

계획된 아키텍처 (architecture)에서 모델은 이러한 지속 가능한 핵심 주변의 교체 가능한 추론 엔진 (reasoning engines)입니다.

                 cloud model A
                      ↑
local fallback  ←   doll   →  cloud model B
...

선호하는 클라우드 모델은 선택적인 성능 확장 (performance extension)으로서 사용 가능해야 합니다.