Dario Amodei는 Anthropic이 오픈 웨이트 (open-weight) AI 금지를 원하지 않지만, 충분히 강력한 모든 모델이 출시

요약

Anthropic의 Dario Amodei는 오픈 웨이트 AI 금지에는 반대하지만, 강력한 모델에 대한 사전 안전 테스트는 필수적이라고 주장합니다. 그는 기술 유출 방지와 안전성 확보를 위한 세 가지 구체적인 조치를 제안했습니다.

핵심 포인트

• 오픈 웨이트 AI 금지보다는 강력한 모델의 사전 테스트 강조
• 중국으로의 고성능 칩 및 제조 장비 유입 차단 지지
• 미국 모델의 산업적 규모 증류(distillation) 중단 필요성 제기
• 오픈 모델의 가드레일 제거 및 회수 불가능성에 따른 위험 경고