Anthropic의 CEO Dario Amodei는 월요일, 자사가 "오픈 웨이트 (open-weights) 모델에 대한 금지를 결코 주장한 적이 없다"고 말했습니다. 이는 해당 AI 연구소가 인공지능의 미래에 대해 과도한 통제력을 행사하려 한다는 기술 업계 전반의 비판을 물리치기 위한 시도입니다.

Amodei는 월요일 블로그 게시물을 통해 자신의 견해를 발표했습니다. 이는 Nvidia, Microsoft, Meta, Palantir를 포함한 기술 기업 연합이 지난주 말, 사용자가 다운로드, 수정 및 자체 인프라에서 실행할 수 있는 오픈 웨이트 (open-weight) 모델에 대해 정책 입안자들이 "성급한 제한 (premature restrictions)"을 피할 것을 촉구하는 서한을 발표한 이후에 나온 것입니다. 현재 중국 스타트업들이 시장을 지배하고 있으며, 일부 정부 관리들은 이러한 모델들을 미국 내에서 금지하거나 제한해야 할지 검토하기 시작했습니다.

Anthropic은 기업에 판매하는 Claude라는 독점 모델 제품군을 개발하는 것으로 가장 잘 알려져 있습니다. 주요 경쟁사인 OpenAI 또한 주로 폐쇄형 모델 (closed models)을 구축하지만, Anthropic과 달리 OpenAI는 오픈 웨이트 서한이 발표된 후 이에 대한 지지 의사를 밝혔습니다.

Amodei는 "저와 Anthropic의 입장을 요약하자면, 우리는 오픈 웨이트 (open-weights) 모델이라는 카테고리에 대해 금지를 주장해 온 적도 없고 지금도 주장하고 있지 않습니다"라고 적었습니다. "대신 우리는 강력한 칩이 권위주의적인 손에 들어가는 것을 막고, 산업 규모의 증류 (distillation)를 차단하며, 오픈 모델과 폐쇄형 모델을 막론하고 충분한 능력을 갖춘 모든 모델에 대해 안전 테스트를 요구하는 데 집중해야 합니다."

증류 (Distillation)는 이미 시장에 출시된 더 큰 모델의 출력을 사용하여 더 작고 능력이 낮은 모델을 구축하는 AI 학습 방법입니다. Anthropic은 지난달 미국 상원 은행, 주택 및 도시 개발 위원회에 서한을 보내, Qwen 모델 제품군의 개발사인 중국의 Alibaba가 현재까지 알려진 것 중 "가장 큰 규모의 증류 공격 (distillation attack)"을 자사에 가했다고 주장했습니다.

금요일 서한에서 서명자들은 불법적인 증류에 대한 우려가 "표적화된 법적 및 상업적 프레임워크 (targeted legal and commercial frameworks)"를 통해 해결되어야 한다고 밝혔으며, Amodei 또한 월요일 이 의견에 동의했습니다.

Amodei는 또한 서한의 다른 부분들, 즉 오픈 웨이트 (open-weight) 모델이 고객에게 더 큰 통제권을 부여하고, AI 경제에 대한 접근성을 확대하며, 일부 사용 사례에서 경쟁을 강화한다는 점에도 동의한다고 말했습니다. 하지만 그는 오픈 웨이트 모델이 공격자보다 사이버 방어자에게 유리하다거나, 사용자가 안전 장치 (safeguards)를 개발하는 것을 더 쉽게 만든다는 생각에는 동의하지 않는다고 밝혔습니다.

그럼에도 불구하고, Amodei는 오픈 웨이트 모델의 금지를 지지하지 않는다는 점을 분명히 했습니다.

"보호주의적 금지 조치는 저의 가장 심각한 국가 안보 우려 사항들을 해결하지 못할 것입니다,"라고 Amodei는 말했습니다.

Anthropic's new AI model rivals Fable 5 and is cheaper as businesses fret about costs