2026년 7월 24일, NVIDIA가 주도한 공개 서한 「Open Weights and American AI Leadership」에 77개 기업 및 단체가 서명했습니다. OpenAI, Google, Meta, Microsoft 등이 이름을 올리는 가운데, 주요 연구소 중 유일하게 서명을 거부한 곳이 Anthropic입니다.

그리고 3일 뒤인 7월 27일, CEO Dario Amodei가 공식 성명을 발표했습니다. 그 시작은 「Anthropic은 오픈 웨이트 모델의 금지를 주장한 적이 없다」였으며, 나아가 위험한 능력을 갖지 않은 오픈 웨이트 모델은 「공공재(public good)」라고까지 단언하고 있습니다.

오픈 웨이트 옹호 서한을 거부한 연구소가 오픈 웨이트를 공공재라 부릅니다. 이 모순의 중심에는 라이선스를 둘러싼 사상 논쟁이 아닙니다. 바로 2만 5,000개의 가짜 계정과 2,900만 번의 상호작용이라는 산업 규모의 「증류(distillation)」였습니다.

먼저 시간 순서를 정리하겠습니다. 이번 공방은 불과 1주일 사이에 연달아 일어났습니다.

서한은 1980년대 오픈 소스 소프트웨어 운동을 선례로 들며 다음과 같이 주장합니다.

Openness may be one of the most important paths to AI safety and security.
(오픈인 것은, AI의 안전성과 보안에 가장 중요한 길 중 하나일 수 있다)

여기서 주목할 점은 클로즈드 모델의 양대 산맥인 OpenAI와 Google조차 서명했다는 사실입니다. 서명하지 않은 주요 연구소는 Anthropic 단독이었고, 백악관 AI 고문 David Sacks는 「주요 AI 연구소들이 정부에게 오픈 소스의 경쟁자를 배제시키려 한다」며, 특정 이름을 언급하지 않으면서도 명확하게 Anthropic을 겨냥한 비판을 전개했습니다.

7월 27일 성명에서 Amodei는 의혹을 정면으로 부인했습니다.

Anthropic has never advocated for a ban on open-weights models.
(Anthropic은 오픈 웨이트 모델의 금지를 주장한 적이 없다)

Open-weights models that don't have dangerous capabilities are a public good: they don't cost anything besides the compute needed to run them.
(위험한 능력을 갖지 않은 오픈 웨이트 모델은 공공재다. 실행하는 데 필요한 컴퓨팅 자원을 제외하고는 아무 비용도 들지 않는다)

나아가, 금지 대신 세 가지 정책을 제안했습니다.

• 칩 규제의 철저화. 강력한 칩 및 제조 장비를 중국에 판매하지 않기. 밀수 단속 강화 -
• 산업 규모의 증류 운영(operation) 단속. Amodei는 증류가 「중국의 프런티어를 미국의 프런티어에서 몇 달 이내 거리로 당기는 것」이라고 주장합니다 -
• 능력 임계치 기반 안전성 테스트 의무화. 오픈이든 클로즈드이든, 충분히 높은 능력을 가진 모든 모델이 대상

즉, Amodei의 입장은 「오픈 웨이트 그 자체는 적이 아니다. 적은 무규제한 능력 확산과 프런티어 기술의 조직적인 흡입이다」라는 것입니다. 서한 주장의 대부분에는 동의하지만, 서명을 거부한 이유는 단 하나입니다. 서한이 내세우는 '오픈인 것이 방어 측에 이롭다'는 전제에 동의할 수 없었기 때문입니다. Amodei는 공격 측이 구조적으로 유리해지는 생물학 무기 위험을 반례로 들며, 오픈 웨이트가 「필연적으로 공격자보다 방어자를 돕는 것은 아니다」라고 말하고 있습니다.

성명에서 가장 구체적인 숫자가 등장하는 부분이 바로 증류 (distillation) 부분이다. Anthropic은 Alibaba의 Qwen 팀을 향해, **2만 5,000개의 가짜 계정을 사용하여 Claude와 2,900만 회의 상호작용을 수행하는 증류 오퍼레이션 (distillation operation)**을 실행했다고 비난하고 있다.

지식 증류 (knowledge distillation) 자체는 정당한 기술이다. 거대한 교사 모델 (teacher model)의 출력을 사용하여 작은 학생 모델 (student model)을 훈련한다. 본래는 로짓 (logits, 확률 분포)을 사용하지만, API만 접근 가능한 경우에도 응답 텍스트 그 자체를 교사 신호 (teacher signal)로 삼는 시퀀스 레벨 (sequence-level) 증류가 성립한다. 절차는 단순하다.

• 다양한 프롬프트 (prompt) 군을 준비하여, 교사 모델 (이 경우에는 Claude)의 API로 대량 전송한다
• 얻어진 응답을 그대로 지시 튜닝 (instruction tuning)용 데이터셋으로 정형화한다
• 자사 모델을 해당 데이터로 파인튜닝 (fine-tuning)하여 교사 모델의 응답 분포를 모방하게 한다

프런티어 랩 (frontier lab)이 수억 달러를 들여 도달한 「응답의 질」을, API 이용 요금만으로 복제할 수 있다. 이것이 Amodei가 증류를 안보 문제로 다루는 이유다.

문제는 탐지의 어려움에 있다. 단일 계정으로 2,900만 회의 쿼리 (query)를 던지면 즉시 탐지되겠지만, 2만 5,000개 계정으로 분산하면 계정당 약 1,160회에 불과하게 된다. 헤비 유저의 정상적인 트래픽과 구별할 수 없는 수준이다.

Amodei 자신도 증류 단속은 「어렵다」고 인정하고 있다. 계정 특정은 많은 경우, 상당량의 증류가 완료된 후에야 가능하다. 그렇기에 성명에서는 단일 기업의 자위가 아니라 정책적 개입이 필요하다고 주장하고 있다.

(증류 대책은) 단일 기업의 집행에 의존하는 것이 아니라, 정책적 개입을 필요로 한다.

Anthropic은 증류 공격의 탐지 및 방지에 관한 연구도 공개하고 있으며, 응답에 대한 통계적인 지문 (fingerprint) 삽입이나 계정 군의 행동 상관관계 분석이 대책의 중심이 되지만, 이들 모두 사후 탐지의 범위를 벗어나지 못하고 있다.

Amodei가 오픈 웨이트 (open weights)에 신중한 또 다른 이유는 공개의 불가역성이다.

once weights are released they cannot be withdrawn

(한번 공개된 웨이트는 회수할 수 없다)

API 모델과 오픈 웨이트 모델은 출시 후에 할 수 있는 일이 근본적으로 다르다.

특히 두 번째 줄은 중요하다. 공개된 웨이트에 대해 소량의 파인튜닝 (fine-tuning)을 수행하는 것만으로도 거부 행동 (refusal)을 제거할 수 있다는 사실은 여러 선행 연구를 통해 반복적으로 증명되어 왔다. 「위험한 능력을 갖추지 않은」 모델이라면 공공재이지만, 임계치를 넘은 모델의 웨이트 공개는 되돌릴 수 없다. Amodei의 선긋기는 이 한 점에 집약된다.

Amodei가 제안하는 안전성 테스트 의무화는 라이선스 형태가 아니라 능력 임계치로 대상을 결정한다. 오픈 웨이트를 표적으로 삼는 대신, 클로즈드 모델 (closed model)도 동일한 검사대에 올리는 구조다.

이 성명을 액면 그대로 받아들이기 전에 몇 가지 약점을 지적해 두어야 한다.

자기 이익과의 분리가 불가능하다. Anthropic은 오픈 웨이트 비즈니스를 전혀 하지 않는다. 「금지를 주장하는 것은 아니다」라는 말이 사실일지라도, 증류 단속과 안전성 테스트 의무화는 결과적으로 오픈 웨이트 진영과 중국 랩의 발을 묶어 Anthropic의 경쟁 환경을 개선한다. Sacks의 「오픈 소스 경쟁자를 배제시키려 한다」는 비판에 대한 완전한 반증은 되지 못한다.

증류 규제의 집행 가능성이 제시되지 않았다. Amodei 스스로 탐지는 사후적으로만 가능하다고 인정한 이상, 정책 개입이라고 해도 구체적인 집행 메커니즘은 불분명하다. 귀속 증명 (이 모델은 우리 API로부터 증류되었다는 입증)은 기술적으로 어려우며, 이를 강제로 추진할 경우 API 이용자 전체에 대한 감시 강화로 정당화될 위험이 있다.

「충분히 높은 능력」의 선긋기 문제. 안전성 테스트 의무화는 임계치 설정에 따라 소규모 오픈 소스 개발자에게 과도한 컴플라이언스 (compliance) 부담을 지울 수 있다. 누가 임계치를 결정할 것인가라는 규제 주도권 싸움이 그대로 산업 정책이 된다.

서한 측도 순수하지 않다. 오픈 웨이트 (open-weights) 옹호 서한에, 클로즈드 모델 (closed models)로 수익을 올리는 OpenAI와 Google이 서명하고 있다. 그 서한의 실체는 오픈니스 (openness)의 옹호인 동시에, 규제 그 자체에 대한 견제이기도 하다. 77개사의 동상이몽을 '업계의 컨센서스 (consensus)'라고 읽는 것은 성급하다.

이번 공방은 일시적인 논란이 아니라, 규제의 설계 원리를 둘러싼 분기점으로 남을 가능성이 높다. 성명과 주변 움직임을 통해 세 가지 방향을 읽어낼 수 있다.

라이선스 중립의 능력 임계치 규제로. 6월 3일에는 대통령령으로 모델의 사전 안전성 심사가 부활했고, 7월 24일에는 Google이 EU의 투명성 코드에 서명했다. '오픈인가 클로즈드인가'가 아니라 '무엇을 할 수 있는 모델인가'로 규제 대상을 결정하는 흐름은 Amodei의 제안과 방향이 일치한다. 10년 뒤에 되돌아봤을 때, 2026년 여름은 규제의 축이 라이선스에서 능력 임계치 (capability threshold)로 이동한 전환점으로 기록될지도 모른다.

증류 (distillation)가 통상·지식재산 문제의 중심이 된다. 2만 5,000개 계정 규모의 오퍼레이션이 현실에서 일어나고 있는 이상, 프론티어 모델 (frontier models)의 '가중치 (weights)'뿐만 아니라 '행동 (behavior)'도 보호 대상으로 간주하는 법리가 필요해진다. 이는 저작권이나 영업 비밀 (trade secrets)만으로는 깔끔하게 다룰 수 없는 영역이며, 새로운 프레임워크를 위한 입법 경쟁이 시작될 것이다.

프론티어의 해자 (moat)가 수개월 단위로 축소된다는 전제하의 경영. Amodei의 '수개월 이내의 거리까지 끌어당긴다'는 숫자를 뒤집어 보면, 어떠한 기술적 리드 (lead)도 증류를 통해 수개월 만에 진부화된다는 뜻이다. 모델의 가중치가 아니라, 에이전트의 하네스 (harness), 도구 연결 (tool connection), 운영 데이터와 같이 증류할 수 없는 자산으로 가치가 이동한다. 프론티어 랩 (frontier labs)들이 앞다투어 에이전트 기반에 투자하고 있는 현 상황은 이 전제와 일치한다.

77개사가 서명한 서한을 거부한 Anthropic의 논리는, 궁극적으로 '라이선스가 아니라 능력과 규모로 선을 그어라'는 것이었다. 오픈 웨이트는 공공재로 두되, 임계치를 넘는 모델은 검사 대상으로 삼고, 2만 5,000개 계정 규모의 증류 공장은 정책으로 무너뜨린다. 이 세 가지 세트가 Sacks가 말하는 '경쟁 배제'인지, 아니면 정당한 안보론인지는 증류 규제의 집행 메커니즘이 구체화되어야 비로소 판가름할 수 있다.

확실한 것은, 오픈 웨이트 논쟁의 주전장이 '공개할 것인가 말 것인가'에서 '공개된 것과, 공개의 이면에서 흡수되는 것을 어떻게 관리할 것인가'로 옮겨갔다는 점이다. 서한과 성명 중 어느 쪽을 지지하든, 엔지니어가 읽어야 할 1차 자료는 아래에 정리해 두었다.

Our position on open-weights models (Anthropic 공식 성명)

Anthropic faces open-weights ban accusations as 77 firms sign letter (PPC Land)

Anthropic's Dario Amodei says the company has never called for banning open-weight AI models (The Next Web)

Anthropic Rejects Open-Weight AI Ban but Declines Industry Letter (MLQ News)

Our position on open-weights models (Hacker News 토론 스레드)