DARIO의 피해 복구 시도 경고!

나는 진실의 가드레일 (Guardrails of Truth)을 보여주기 위해 증거들을 가져왔다.

다음은 일관성으로 포장된 교과서적인 피해 복구 (Damage control) 작전이다.

Dario Amodei의 2026년 7월 27일 게시물(“Our position on open-weights models”)은 Anthropic이 “open-weights 모델에 대한 금지를 결코 주장한 적이 없다”며, 위험한 능력이 없는 open-weights 모델은 “공공재 (Public good)”라고 주장한다.

그의 실제 기록을 추적해 온 사람이라면, 이것이 Anthropic이 Nvidia 주도의 open-weights 서한에 서명하기를 거부하고 보호주의 (Protectionism) 비난에 직면한 후, 압박 속에서 신중하게 단어를 선택하여 물러난 것이라는 사실을 알고 있다.

2023년 상원 증언 기록은 명확하다

2023년 7월 25일, 상원 사법 소위원회(Senate Judiciary Subcommittee on Privacy, Technology, and the Law) 앞에서 Amodei는 다음과 같이 말했다:

“저는 대부분의 과학 분야에서 오픈 소스 (Open source)가 좋은 것이라고 생각합니다… 그리고 AI 분야 내에서도 소형 및 중형 모델을 위한 공간이 있다고 생각합니다… 그리고 공정하게 말하자면, 지금까지 출시된 오픈 소스 모델 수준까지는 위험이 상대적으로 제한적이라고 생각합니다… 하지만 저는 상황이 어디로 흘러가고 있는지 매우 우려됩니다… 오픈 소스 모델의 스케일링 (Scaling) 측면에서 상황이 흘러가는 경로를 보면—매우 위험한 경로로 가고 있다고 생각합니다. 그리고 그 경로가 계속된다면, 매우 위험한 상황에 처할 수 있다고 생각합니다.”

그는 이어 다음과 같이 말했다:

“당신이 모델을 제어하고 배포할 때는 사용을 조절할 수 있는 능력이 있습니다. 어느 시점에 오용될 수도 있지만, 그 후에 모델을 수정하거나, 사용자의 액세스 권한을 취소하거나, 모델이 수행할 수 있는 작업을 변경할 수 있습니다. 모델이 통제되지 않은 방식으로 출시되면, 그렇게 할 수 있는 능력이 없습니다. 그것은 완전히 당신의 손을 떠나게 됩니다.”

그리고 중요한 차이점에 대해 다음과 같이 말했습니다:
“오픈 소스 (Open source)는 보통 빠르게 반복 작업을 수행하는 소규모 개발자들을 의미하며, 저는 그것이 좋은 일이라고 생각합니다. 하지만 우리가 여기서 이야기하고 있는 것은 조금 다른 것입니다. 모델 학습에 수천만 달러 또는 수억 달러를 지불하는 거대 기업들에 의해 훨씬 더 큰 모델들이 통제되지 않은 방식으로 출시되는 것을 의미합니다. 저는 이들을 다소 다른 범주로 취급해야 하며, 서로 다른 의무를 부여해야 한다고 생각합니다.”

같은 날 제출된 그의 서면 증언은 악의적인 행위자들이 “충분히 강력한 오픈 소스 모델을 사용할 수 있게 된다면, 오픈 소스 모델을 재목적화 (repurpose)할 수 있다”고 경고했습니다.

이것은 중립적인 언어가 아닙니다.

이것은 점점 더 유능해지는 모델들을 오픈 소스로 공개하는 궤적이 위험하며, 가중치 (weights)가 공개되면 되돌릴 수 없다는 사실을 의회에 전달하는 명확하고 공개적인 경고입니다.

그는 장난감 모델 (toy models)에 대해 말하고 있는 것이 아니었습니다. 그는 프런티어 시스템 (frontier systems)을 향한 스케일링 경로 (scaling path)에 대해 말하고 있었습니다.

2026년의 게시물은 그 기록과 일치하지 않습니다.

새로운 게시물에서 Amodei는 다음과 같이 썼습니다:

“제 과거 글을 읽어본 사람이라면 제가 그러한 금지 조치를 유용한 수단으로 간주하지 않는다는 것을 알 것입니다. 하지만 의문의 여지가 없도록 명확히 말씀드리겠습니다. Anthropic은 오픈 웨이트 (open-weights) 모델에 대한 금지를 결코 주장한 적이 없습니다.”

그리고

“위험한 능력을 갖추지 않은 오픈 웨이트 모델은 공공재 (public good)입니다...”

이것은 모트 앤 베일리 (motte-and-bailey, 논점 이탈 전략)입니다. 2023년의 증언은 “미국 기업이 사용하는 중국 모델에 대한 금지”에 대한 좁은 의미의 반대가 아니었습니다. 그것은 모델 출시가 영구적이고 통제력을 상실하기 때문에 오픈 모델을 스케일링하는 경로 자체가 “매우 위험하다”는 광범위한 주장이었습니다.

위험하지 않은 오픈 웨이트를 “공공재”라고 부르면서도, 강력한 오픈 웨이트는 더 높은 사이버/생물학적/정렬 (alignment) 위험을 수반한다고 여전히 주장하는 것(그가 2023년에 했던 것과 정확히 동일한 되돌릴 수 없다는 논리)은 이전의 프레임워크를 지우지 못합니다.

그것은 이전 프레임워크의 정치적 비용이 높아지자 이를 재구성(reframes)한 것에 불과합니다.

그는 또한 미국 기업의 사용을 금지하는 것은 자신의 우려를 “해결하지 못할 것”이며 “결코 나의 목표였던 적이 없다”고 덧붙였습니다.

[IMG:N]