AI 캠페인 딥페이크가 법적 위협에 직면하기 시작하다

Rep. Derrick Van Orden (R-Wis.)은 이번 주, 자신이 속한 민주당 상대 후보가 거부한다고 밝힌 입장을 말하는 것처럼 허위로 묘사된 AI 딥페이크와 관련하여 중단 및 금지(cease-and-desist) 서신을 받았습니다.

중요한 이유: Van Orden은 캠페인 광고에서 AI 딥페이크를 사용한 것에 대해 법적 고소와 위협에 직면하는 후보자 및 공직자가 늘어나는 추세의 최신 사례입니다.

---

뉴스 동력: Van Orden의 민주당 상대 후보인 Rebecca Cooke의 변호사들이 그에게 수요일,

• 일부 캠페인에서는 초현실적인 광고를 사용했습니다. 텍사스 상원 공화당 후보 Ken Paxton은 상대방인 James Talarico의 실제 발언과 부정확한 진술을 결합했습니다.
• 루이지애나 공화당 상원 예비선거에서는 한 후보가 서류 미비 이민자들을 투표소로 끌고 가는 장면을 보여주었습니다.
• 다른 캠페인에서는 후보자들이 패러디 목적으로 의도했다고 밝힌, 좀 더 만화 같은 광고를 사용하기도 했습니다.
• National Conference of State Legislatures에 따르면, 약 31개 주가 정치적 딥페이크를 규제하고 있으며, 이 중 최소 28개 주는 AI 생성 콘텐츠에 대한 고지(disclosure)를 의무화하고 있습니다.

확대: 텍사스 부지사 Dan Patrick (R)는 9월에 민주당 상대 후보인 주 하원의원 Vikki Goodwin으로부터 텍사스의 딥페이크 선거법에 따른 형사 고소를 받았습니다.

• 법에 따르면, 선거 결과에 영향을 미칠 의도가 있는 경우 AI 광고는 선거일로부터 30일 이내에는 방영될 수 없습니다. Goodwin은 이 기간이 조기 투표 시작일로부터 30일을 의미해야 한다고 주장합니다.
• Patrick의 캠페인은 Goodwin을 축구 경기장에서 'Texas' 대신 'taxes'라고 적힌 셔츠를 입고 있는 것처럼 허위로 묘사한 AI 생성 공격 광고를 방영했습니다. 이후 해당 캠페인은 광고를 삭제했으며, 대변인은 이 영상을 '명백한 패러디'라고 불렀습니다.
• 또한 노스캐롤라이나주 상원의원 Michael Lee (R)는 지난 8월, 자신의 AI 생성 광고 사용과 관련하여 민주당 출마자 Jessica Bichler로부터 중단 및 금지 통지서(cease-and-desist letter)를 받았습니다. 노스캐롤라이나주는 캠페인 광고에 AI 사용을 금지하는 법률은 없습니다.

전체적인 시각: 정치 전문가들은 AI 딥페이크가 정치 시스템에 대한 신뢰를 저하시켜, 유권자들이 후보자가 실제로 무엇을 지지하는지 알기 어렵게 만든다고 말합니다.

• UC Irvine의 인식론자(epistemologist) Cailin O'Connor는 이전에 Axios와의 인터뷰에서 시청자가 광고가 가짜라는 것을 알고 있더라도 해당 광고가 효과적일 수 있다고 말했습니다.
• 이러한 광고들은 또한 미국인들이 연방 정부, 제도, 뉴스 미디어에 대해 가지고 있는 광범위한 하락세(broader declines)를 심화시킬 수도 있습니다.

결론적으로: 이러한 법적 도전은 단지 시작일 가능성이 높습니다. 목표로 하는 후보자들이 법원, 법 집행 기관, 그리고 연방 규제가 미처 다루지 못하는 부분을 감시하기 위한 경고 서한으로 향하고 있기 때문입니다.

더 깊이 보기: 당신의 눈을 속이는 AI 선거에 오신 것을 환영합니다