A faceless mannequin with digital embellishments against a colorful background.

Hugging Face는 자신이 호스팅하는 AI 모델들이 성적 딥페이크 (deepfakes)를 생성하는 것을 방지하기 위해 별다른 조치를 취하지 않고 있다. | 이미지: Cath Virginia / The Verge | Getty Images 사진

Hugging Face가 비동의 딥페이크 (nonconsensual deepfakes)를 만드는 데 이용되고 있으며, 이 인기 있는 오픈 소스 (open-source) AI 모델 저장소는 이를 방지하기 위해 거의 아무런 조치도 취하지 않고 있다. 이는 유럽의 비영리 단체인 AI Forensics가 발표한 새로운 보고서에 따른 것으로, Hugging Face가 호스팅하는 상위 9개 이미지 편집 모델 중 7개가 간단한 프롬프트 (prompts)를 사용한 여성의 옷을 벗겨달라는 요청에 쉽게 응했다는 사실을 발견했다.

Google의 Gemini나 OpenAI의 ChatGPT와 같은 대부분의 주류 생성형 AI (generative AI) 모델들은 사람의 옷을 벗기거나 성적 대상화하는 프롬프트 (prompts)를 차단하기 위한 가드레일 (guardrails)을 갖추고 있는 반면, AI Forensics가 테스트한 Hugging Face의 모델들은 그렇지 않은 것으로 보인다. 이 비영리 단체는 다음과 같이 밝혔다 …

The Verge에서 전체 기사 읽기.