Elon Musk의 xAI, 미네소타주의 '서투른' 누디파이(Nudify) 앱 금지 조치가 수정헌법 제1조를 위반하며 수십억 달러의 벌금을 초래할 수 있다고 주장

Benzinga와 Yahoo Finance LLC는 아래 링크를 통해 일부 항목에서 수수료 또는 수익을 얻을 수 있습니다.

Elon Musk의 xAI는 월요일, 미네소타주 검찰총장 Keith Ellison을 상대로 소송을 제기하며, 8월 1일 발효 예정인 "누디파이(nudification)" 도구를 제한하는 새로운 법률을 차단해 달라고 연방법원에 요청했습니다.

xAI, 표현의 자유에 관한 법률에 이의 제기

소장에 따르면 하원 법안(House File) 1606은 "'누디파이(nudification)'를 금지하려는 서투른 시도로서, 표현의 자유와 시각적 표현 도구에 대해 광범위하고 콘텐츠 기반의 금지를 부과한다"고 명시되어 있습니다. xAI는 이미지와 비디오를 생성하는 것이 보호받는 표현(expression)에 해당하며, 미네소타주가 단지 사용자의 출력물(output)만을 근거로 엄격 책임(strict liability)을 부과할 수 없다고 주장합니다.

놓치지 마세요:

아직 시장을 배우는 중인가요? 반드시 알아야 할 이 50가지 용어가 빠른 적응을 도와줄 수 있습니다

해당 법령은 웹사이트, 앱 및 소프트웨어 운영자가 사용자가 이미지를 수정하여 식별 가능한 인물이 신체의 민감한 부위를 노출하는 것처럼 보이게 하는 것을 금지합니다. 미네소타주는 불법적인 접속, 다운로드 또는 사용 사례당 최대 50만 달러의 벌금을 추구할 수 있습니다. 피해자 또한 3배 배상(treble damages), 징벌적 손해배상(punitive damages) 및 법률 비용을 청구할 수 있습니다.

xAI는 이러한 벌금이 급격히 누적될 수 있다고 말했습니다. 소장에 따르면 금지된 이미지 10개는 500만 달러의 노출을 초래할 수 있는 반면, 10만 개는 "눈이 휘둥그레질 정도의 500억 달러"를 촉발할 수 있습니다. 회사는 해당 법률에 인지(knowledge) 또는 의도(intent) 요건이 결여되어 있으며, 안전장치를 사용하는 플랫폼을 위한 세이프 하버(safe harbor, 면책 조항)를 제공하지 않는다고 밝혔습니다.

Musk의 회사, 콘텐츠 안전장치 옹호

Musk의 회사는 동의 없이 실제 인물의 누드 또는 성적 이미지를 생성하는 것을 사용자로부터 "엄격히 금지"하고 있으며, 기술적 차단기를 우회하는 사용자들을 상대로 소송을 제기했다고 밝혔습니다. Musk는 이전에 Grok을 사용하여 불법 콘텐츠를 생성하는 사람은 이를 직접 업로드하는 사람과 동일한 결과에 직면하게 될 것이라고 경고한 바 있습니다.

*트렌딩: *가장 흔한 투자 실수를 피하는 법: 당신의 '안전한' 보유 자산이 막대한 손실을 초래할 수 있는 이유

Benzinga는 미네소타주 검찰총장실에 연락을 취했으나 즉각적인 답변을 받지 못했습니다.

이번 논쟁은 xAI가 테네시주의 십 대 청소년 3명으로부터 제기된 집단 소송(class action)에 직면하면서 발생했습니다. 이들은 Grok 기반 도구들이 자신들이 미성년자였을 때 실제 사진을 성적으로 노골적인 이미지로 변형시켰다고 주장하고 있습니다. xAI는 아동 성 착취, 비동의 누드(nonconsensual nudity) 및 원치 않는 성적 콘텐츠에 대해 "무관용 원칙(zero tolerance)"을 유지하고 있다고 밝혔습니다.

미네소타주, 딥페이크(Deepfake) 남용에 대한 보호 조치 옹호

미네소타주 입법자들은 이러한 이미지의 확산을 막기 위해 해당 조치를 설계했습니다. 이 제안을 주도한 Erin Maye Quade 상원의원(민주당-미네소타)은 지난 3월 Associated Press와의 인터뷰에서 기업들이 "아무런 결과(consequences) 없이 이 기술을 세상에 계속 풀어놓을 수는 없다"고 말하며, 이 기술이 "그 본질 자체로 해롭다"고 지적했습니다. AP가 인터뷰한 법학자들 또한 해당 법안의 광범위함이 수정헌법 제1조(First Amendment) 문제를 야기할 수 있다고 경고했습니다.