유명인에서 일반인으로: 4chan에서의 AI 누디피케이션(Nudification) 콘텐츠, 기술 및 커뮤니티 역학 특성 분석
요약
4chan 내 AI 누디피케이션 콘텐츠의 기술적 특성과 커뮤니티 역학을 분석한 연구입니다. 대상이 유명인에서 일반인으로 급격히 확대되고 있으며, 오픈 소스 모델과 미세 조정 기술이 이를 주도하고 있음을 밝혀냈습니다.
핵심 포인트
- 비유명인 대상 SNEACI 비중이 4.7%에서 55.8%로 급증
- Stable Diffusion 및 Wan 등 오픈 소스 모델이 생성 주도
- 소수 활성 제작자가 기술 지식 전파 및 생태계 운영
- 플랫폼 거버넌스 및 기술적 안전장치 마련의 시급성 강조
AI 누디피케이션 (Nudification)은 생성 모델 (Generative models)을 사용하여 실제 개인의 합성된 비동의 성적 노골적 이미지 (SNEACI, non-consensual sexually explicit imagery)를 생성합니다. 기존 연구들은 전용 누디피케이션 플랫폼과 모델 저장소를 조사하여 대부분의 대상이 여성 유명인임을 밝혀냈습니다. 그러나 SNEACI가 활발하게 요청되고, 생성되며, 교환되는 익명 콘텐츠 커뮤니티는 여전히 탐구되지 않은 상태로 남아 있습니다. 본 연구에서는 실제 환경에서의 AI 누디피케이션에 대한 대규모 연구를 제시하며, 24,105개의 SNEACI 항목을 식별했습니다. 우리는 대상 인구 통계에서 유의미한 변화를 발견했습니다. 이전 연구에서는 대상의 4.7%에 불과했던 비유명인이 현재는 55.8%를 차지하고 있으며, 이는 AI 누디피케이션이 공인을 대상으로 하는 것에서 점차 사용자의 개인적 사회적 관계 내에 있는 개인들에게 해를 끼치는 방향으로 확장되었음을 나타냅니다. 한편, 오픈 소스 모델 (Open-source models)이 제작을 주도하고 있으며, Stable Diffusion 제품군이 이미지의 42.7%를 생성하고 Wan이 비디오의 66.5%를 생성하고 있습니다. 이 모든 것은 수천 개의 공유된 미세 조정 (Fine-tuned) 모델과 접근 가능한 튜토리얼에 의해 구동됩니다. 그러나 이 생태계는 소수의 활성 제작자 집단에 의해 운영되며, 가장 다작을 하는 제작자는 780개의 항목을 생성하며 커뮤니티 참여를 주도하고, 대상 인구 통계를 형성하며, 새로운 제작자의 진입 장벽을 낮추는 기술적 지식을 전파합니다. 우리의 연구는 AI 누디피케이션이 실제 환경에서 어떻게 작동하는지에 대한 실증적 이해를 제공하며, 이 생태계를 유지하는 메커니즘을 밝히고 플랫폼 거버넌스, 기술적 안전장치 및 피해 개인 보호를 위한 개입의 시급성을 강조합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기