Anthropic의 CEO Dario Amodei는 월요일, 오픈 웨이트 (open-weight) AI 모델에 대한 금지를 "결코 주장한 적이 없다"고 말하며, 자신의 연구소가 폐쇄형 모델 (closed-model) 비즈니스를 경쟁으로부터 보호하려 한다는 비난을 부인했습니다.

중요한 이유: Nvidia, Microsoft, Meta, Google, OpenAI 및 수십 개의 다른 기업들이 워싱턴 당국에 기술을 제한하지 말 것을 촉구하는 서한에 서명한 이후, Anthropic은 오픈 웨이트 (open-weight) AI를 방어하려는 새로운 업계의 움직임에 맞서는 가장 두드러진 반대 세력이 되었습니다.

---

• 이러한 움직임은 중국의 오픈 웨이트 (open-weight) 모델인 Kimi K3의 충격적인 등장으로 인해 촉발되었습니다. 이 모델은 미국 프런티어 (frontier) 모델의 성능에 근접하면서도 비용은 극히 일부에 불과해 실리콘밸리를 뒤흔들었습니다.
• Trump 행정부는 "증류 (distillation)"를 통해 미국의 AI 연구를 훔쳤다고 의심되는 중국 연구소들에 대한 제재를 포함하여, 오픈 소스 (open-source) 모델에 대해 조치를 취하는 방안을 검토해 왔습니다.

뉴스 핵심: Amodei는 새로운 블로그 게시물에서 "Anthropic은 오픈 웨이트 (open-weights) 모델에 대한 금지를 결코 주장한 적이 없다"고 적으며, 위험한 능력이 없는 모델은 "공공재 (public good)"라고 불렀습니다.

• 그는 중국의 오픈 모델에 대한 금지가 실제 위협을 막는 데 거의 도움이 되지 않을 것이라고 주장했는데, 그 이유는 "악의적인 행위자들이 합법적인 미국 기업일 가능성은 낮기 때문"입니다.
• 그는 금지가 Anthropic과 같은 미국의 연구소들을 경쟁으로부터 보호할 것이라는 점은 인정했지만, "그것은 결코 나의 목표였던 적이 없다"고 강조했습니다.

행간의 의미: Amodei는 오픈 웨이트 (open-weight) 금지에 반대하는 것과 가장 강력한 AI 시스템에 대한 더 강력한 통제를 지지하는 것 사이에서 미세한 경계선을 긋고자 노력하고 있습니다.

• Anthropic의 CEO는 오픈 모델 (open models)이 접근성, 경쟁 및 고객 통제권을 확대할 수 있다는 점에 동의한다고 밝혔습니다.
• 하지만 그는 오픈 웨이트 (open-weight) 모델이 반드시 AI를 더 안전하게 만들거나 사이버 방어자에게 공격자보다 우위를 제공한다는 서한의 주장은 거부했습니다.

Zoom in: Amodei는 금지 조치가 "나의 가장 심각한 국가 안보 우려를 해결하지 못할 것"이라고 말하며, 금지 대신 다음과 같은 세 가지 더 좁은 범위의 정책을 촉구했습니다:

• 중국 공산당을 포함한 권위주의 정부로 유입되는 첨단 칩 및 칩 제조 장비에 대한 더 엄격한 통제.
• "산업 규모의 증류 (industrial-scale distillation)", 즉 더 발전된 시스템의 출력물을 사용하여 모델을 학습시키는 행위에 대한 단속.
• 오픈 모델이든 폐쇄형 모델 (closed models)이든, 충분한 역량을 갖춘 모델에 대한 의무적인 안전 테스트.

Catch up quick: Anthropic은 Nvidia의 CEO Jensen Huang의 오픈 웨이트 서한에 참여하기를 거부한 이후 비판에 직면했습니다.

• Anthropic의 두 가장 큰 폐쇄형 모델 경쟁사인 Google과 OpenAI는 당초 참여를 유보했다가 이번 주말 서명했습니다. Anthropic은 여전히 참여하지 않은 상태입니다.
• Anthropic의 부재는 백악관 AI 고문인 David Sacks를 포함한 이들로부터, 회사가 자사의 비즈니스 모델을 방어하기 위해 안전 문제를 이용하고 있다는 비난을 불러일으켰습니다.

The bottom line: Amodei는 워싱턴이 오픈 모델을 금지하는 것을 원하지 않습니다. 그는 워싱턴이 해당 모델들이 얼마나 강력해질 수 있는지를 결정하는 핵심 지점(chokepoints)인 칩, 증류 (distillation), 그리고 안전 테스트를 규제하기를 원합니다.