AI 레이블링 시스템의 성패를 가를 결정적 시기
요약
딥페이크와 AI 생성 콘텐츠의 확산에 대응하기 위해 SynthID와 C2PA Content Credentials 같은 AI 레이블링 기술이 중요한 전환점을 맞이하고 있습니다. Google은 I/O 컨퍼런스에서 자사 AI 모델로 생성된 콘텐츠를 식별할 수 있는 SynthID 마커 확인 기능을 발표하며 기술 확장에 나섰습니다.
핵심 포인트
- AI 생성 이미지, 비디오, 오디오의 출처를 식별하기 위한 보이지 않는 태깅 기술의 중요성 증대
- Google의 SynthID는 AI 모델 생성 콘텐츠에 적용되는 보이지 않는 워터마킹 시스템임
- C2PA Content Credentials와 SynthID가 AI 조작물(AI fakery)에 대응하는 핵심 기술로 부상
- AI 레이블링 체계의 확장이 온라인 콘텐츠의 신뢰성을 결정짓는 분수령이 될 전망
만약 교황 프란치스코의 이 화려하게 꾸며진 이미지들이 바이럴될 당시 강력한 AI 레이블링 (AI labelling) 체계가 갖춰져 있었다면, 사람들이 이것이 가짜임을 식별하기가 더 쉬웠을지도 모릅니다. | 이미지 출처: Reddit / u/trippy_art_special. 우리는 딥페이크 (deepfakes)와 AI 생성 콘텐츠를 쉽게 식별하기 위해 설계된 시스템들이 실제로 기준에 부합하는지 곧 확인하게 될 것입니다. 이미지, 비디오, 오디오 파일에 그 출처에 관한 정보를 보이지 않게 태깅하는 두 가지 서로 다른 기술인 SynthID와 C2PA Content Credentials가 역대 최대 규모의 확장을 앞두고 있으며, 이를 통해 온라인에서 사람들을 속이는 레이블이 없는 AI 조작물 (AI fakery)에 맞서 흐름을 바꿀 기회를 맞이하고 있습니다. 어제 I/O 컨퍼런스 기간 중, Google은 이미지에 SynthID 마커가 포함되어 있는지 확인할 수 있는 기능 — 이는 Google AI 모델에 의해 생성된 콘텐츠에 적용되는 보이지 않는 워터마킹 (watermarking) 시스템입니다 — 을 발표했습니다. ... The Verge에서 전체 이야기를 읽어보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 The Verge AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기