
Google Earth의 AI 딥페이크 도구가 단 하루 만에 중단되었습니다
요약
Google은 텍스트 프롬프트로 위성 이미지를 편집할 수 있는 Google Earth의 AI 기능을 출시 하루 만에 중단했습니다. 해당 도구가 딥페이크 생성에 악용될 수 있다는 우려가 제기되었기 때문입니다.
핵심 포인트
- Google Earth의 AI 편집 기능이 딥페이크 생성 위험으로 인해 즉시 중단됨
- 사용자가 위성 이미지에 난민이나 폭탄 구덩이 등 허위 정보를 삽입 가능했음
- Google은 디지털 워터마크를 통해 해로운 이미지 생성을 방지하려 했으나 대응이 미흡했음

Google Earth에서 Nano Banana 2로 재해석된 폼페이. | 이미지: Google
Google은 목요일에 출시하여 사용자가 AI를 사용한 텍스트 프롬프트(text prompts)로 위성 이미지를 편집할 수 있게 했던 Google Earth 기능을 중단했습니다. 이 도구는 기본적으로 사용자가 텍스트 프롬프트를 사용하여 실제 세상의 AI 딥페이크(deepfakes)를 생성할 수 있게 했습니다. 예를 들어, _Digital Digging_의 Henk van Ess는 멕시코 국경 근처의 난민이나 가자 지구 병원 근처의 폭탄 구덩이 같은 것들을 추가하여 의도적으로 생성된 이미지들을 만들어냈습니다. 목요일, van Ess에 대한 Google의 초기 대응에서는 Google Earth의 Nano Banana 2로 생성된 이미지에는 디지털 워터마크(digital watermark)가 포함되어 있으며, 회사가 "해로운 주제에 대한 이미지 생성"을 방지하고 있다고 언급했습니다.
하루 뒤, Google의 새로운 성명은 다음과 같이 말합니다 …
AI 자동 생성 콘텐츠
본 콘텐츠는 The Verge AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기