Dario Amodei는 Anthropic이 오픈 웨이트 (open-weight) AI가 금지되는 것을 원하지 않지만, 충분히 강력한 모든 모델이 출시 전에 테스트되기를 원한다고 말합니다. 하지만 그는 오픈 AI (open AI)를 위한 연합 서한에 서명하고 싶어 하지 않습니다.

요약 (tl,dr)
업계 전반의 비판에 대응하여, Amodei는 위험한 능력이 없는 오픈 모델은 공공재라고 부릅니다. 그는 미국 기업들의 오픈 모델 사용을 금지하는 것이 악의적인 행위자들에게는 거의 영향을 미치지 않을 것이라고 주장합니다.
대신, Anthropic은 세 가지 조치를 지지합니다:

1. 강력한 칩과 칩 제조 장비가 중국으로 유입되는 것을 차단
2. 미국 모델의 산업적 규모의 증류 (distillation) 중단
3. 역량 있는 오픈 및 클로즈드 (closed) 모델에 대한 안전 테스트 요구

Amodei는 또한 개방성이 자동으로 안전성을 향상시킨다는 주장을 거부합니다. 웨이트 (weights)가 공개되면 가드레일 (guardrails)을 제거할 수 있으며 모델을 회수할 수 없습니다. 생물학(biology)과 같은 분야에서, 그는 더 넓은 접근성이 방어자보다 공격자에게 더 도움이 될 수 있다고 우려합니다.

솔직히 저에게는 이렇게 들립니다: 우리는 오픈 소스 AI를 금지하고 싶지 않다. 하지만 실제로는 중국 모델에 대해서는 그렇게 되기를 원한다.