Anthropic CEO, 정부는 위험한 AI를 차단할 수 있어야 한다고 주장

Anthropic의 CEO인 Dario Amodei는 수요일 에세이를 통해 정부가 위험한 [AI] 배포를 법적으로 막거나 억제할 수 있어야 한다고 썼다.

중요한 이유: Anthropic이 제시하는 기술 규제 및 AI로 인한 경제적 혼란에 대한 아이디어는 현재 워싱턴에서 심각하게 논의되는 어떤 것보다 훨씬 앞서 있다.

---

• 또한, Anthropic이 자체적인 지배력을 공고히 하기 위해 엄격한 규칙을 제안하거나 무서운 미래 시나리오를 마케팅 수단으로 사용한다는 새로운 비난거리를 불러일으킬 것이 확실하다.

뉴스 동력: Amodei의 새 에세이와 제안된 고급 AI [프레임워크]는 정책이 AI의 급속한 발전에 대응하여 변화해야 한다고 주장한다.

• 그는 트럼프의 AI [행정명령]이 더 나아가야 하며, 사이버 보안, 생물학 무기, 통제 상실 또는 자동화된 R&D와 관련된 위험에 대한 의무적인 테스트를 요구해야 한다고 쓴다.
• AI 시스템이 더 큰 위협이 된다면 미래에는 훨씬 더 공격적인 규제가 필요할 수도 있다고 그는 쓴다.
• Anthropic은 또한 자본 계정, 임금 보험, 세금 인센티브 및 확장된 사회 안전망을 포함하여 AI 혼란에 대처하기 위한 경제 정책 프레임워크도 제안하고 있다.

그들이 말하는 것: Amodei는

아모데이(Amodei)는 기존의 투명성 법규만으로는 충분하지 않으며,