현재 SpaceX가 소유하고 있는 Elon Musk의 xAI는 주 내에서 소위 '누디파이(nudify)' 앱을 금지하는 법안에 대응하기 위해 Keith Ellison 미네소타주 검찰총장을 상대로 소송을 제기했습니다.

월요일 미네소타 연방법원에 제출된 소장에서 xAI 측 변호인단은 해당 법령이 "'누디피케이션(nudification, 누드화)'을 금지하려는 서투른 시도로서, 표현의 자유와 시각적 표현 도구에 대해 지나치게 광범위하고 콘텐츠 기반의 금지 조치를 부과한다"라고 기술했습니다.

토요일부터 시행되는 미네소타주 법은 사용자가 동의 없는 성적 이미지를 생성할 수 있게 하는 앱과 웹사이트를 대상으로 하며, 사용자가 노골적인 딥페이크(deepfakes)를 생성할 때마다 50만 달러의 벌금을 부과합니다. 지난 4월 통과된 이 법안은 미네소타주 상원의원 Erin Maye Quade가 주도했는데, 그녀는 한 남성이 지인 80여 명의 소셜 미디어 사진을 동의 없이 사용하여 성적 이미지와 영상을 제작했다는 사실을 알게 된 후 이 법안을 추진했습니다.

Maye Quade 의원은 지난 9월 CNBC와의 인터뷰에서 해당 법안이 창문 너머를 훔쳐보며 노골적인 사진을 찍는 행위를 금지하는 기존 법률과 유사하다고 말했습니다.

현재 인공지능 사업체로 알려진 SpaceXAI는 회사의 Grok AI 챗봇과 이미지 생성기가 실제 사진이나 영상을 기반으로 미성년자로 묘사된 아동 성학대물(CSAM)을 생성하고 공유하는 데 사용되었다고 주장하는 원고들로부터 집단 소송 제기 위기에 처해 있습니다. 또한 소송에서는 xAI가 Grok을 사용하여 타인의 이미지를 '누디파이(nudify)'한 가해자들에 대한 정보를 당국과 공유하지 않았다고 주장하고 있습니다.

Musk의 회사는 사용자가 동의 없이 타인의 누드 또는 성적 이미지를 생성하는 것을 "엄격히 금지한다"라고 주장합니다. 회사는 소장에서 이러한 이미지를 생성하기 위해 "자사의 광범위한 기술적 차단 장치를 우회하는" 사용자들을 상대로 소송을 제기했다고 언급했습니다. 또한 이 회사는 주 내에서 AI 생성 또는 '딥페이크(deepfake)' 콘텐츠를 저지하기 위해 마련된 캘리포니아주 법안에 대응하기 위해서도 유사한 소송을 제기한 바 있습니다.

The alarming rise of AI ‘nudify’ apps that create explicit images of real people