AI 회사 CEO가 정부에게 "우리 제품을 막을 권한을 가져가라"고 했다.

AI 회사 CEO가 정부에게 "우리 제품을 막을 권한을 가져가라"고 했다.

다리오 아모데이가 올린 글의 요지다. 프런티어 AI를 비행기처럼 다루라는 것 — 출시 전 제3자 검사를 의무화하고, 기준 미달이면 정부가 배포를 차단하거나 회수할 수 있어야 한다고 썼다. 사이버, 생물무기, 통제 상실, AI가 AI를 개량하는 것. 이 네 영역이다.

수위가 세다. AI가 3년 뒤처진 나라와의 격차는 "2차대전 해병대와 중세 검병"의 차이가 될 거라 했고, 완전 자율 무기를 자국민에게 쓰는 건 법으로 금지하자고 했다. 언젠가 AI가 비행기가 아니라 무기화 가능한 핵물질처럼 보이는 날이 오면 이걸로도 부족할 거라고 덧붙였다.

제일 찌르는 문장은 따로 있다. "AI에 필요한 건 더 나은 마케팅이라는 프레임을 완전히 거부한다. 사람들이 AI를 걱정하는 건 그 위험이 진짜이기 때문이다."

만든 사람이 제일 무서워한다. 지금 AI 산업의 가장 정확한 요약일지도 모른다.

원문: Dario Amodei — Policy on the AI Exponential