콘텐츠가 어떻게 생성되고 편집되었는지 이해하기 쉽게 만들기

생성형 미디어 (Generative media)가 더욱 발전하고 접근성이 높아짐에 따라, 콘텐츠가 어디에서 왔는지, 그리고 변조되었는지 여부를 아는 것이 유용해지고 있습니다. 오늘 우리는 Search, Gemini, Chrome, Pixel 및 Cloud에서 콘텐츠 투명성 및 검증 도구를 확장하고, 더 넓은 산업계와의 파트너십을 심화하고 있습니다.

기술 규모 확장

3년 전, 우리는 AI 생성 콘텐츠에 감지할 수 없는 신호를 삽입하는 업계 선도적인 디지털 워터마킹 (Digital watermarking) 기술인 SynthID를 도입했습니다. 그 이후로 우리는 SynthID를 우리의 생성형 미디어 모델과 제품에 통합하여, 1,000억 개 이상의 이미지와 비디오, 그리고 60,000년 분량의 오디오에 워터마크를 적용했습니다.

점점 늘어나는 우리의 생성형 미디어 도구 전반에 걸쳐, 우리는 AI 사용 여부와 관계없이 미디어가 어떻게 생성되고 수정되었는지를 보여주는 업계 표준인 C2PA 콘텐츠 자격 증명 (Content Credentials)을 사용합니다. Pixel 10은 기본 카메라 앱에서 이미지에 대한 콘텐츠 자격 증명을 제공하는 최초의 스마트폰이었으며, 우리는 몇 주 안에 Pixel 8, 9, 10 휴대폰에 비디오를 포함하도록 이 기술을 확장할 예정입니다.

캡처 시점에 이 기술을 사용함으로써, Pixel은 콘텐츠가 카메라에 의해 캡처된 시점을 기록합니다. 생성형 미디어 시대에 우리는 편집되지 않은 실제 콘텐츠를 식별하는 것이 파일이 AI를 사용하여 언제 만들어졌거나 편집되었는지 아는 것만큼 중요할 수 있다고 믿습니다.

콘텐츠를 검증하는 더 많은 방법 제공

우리의 목표는 여러분이 온라인에서 접하는 콘텐츠에 대해 더 자세히 알아보는 것을 더 쉽게 만드는 것입니다. 이것이 바로 우리가 최근 Gemini 앱에 이미지, 비디오 및 오디오에 대한 SynthID 검증 기능을 추가한 이유입니다. 이미 전 세계적으로 5,000만 번 사용되었으며, 우리는 오늘 이 검증 기능을 Search로 확장하고 향후 몇 주에 걸쳐 Chrome으로 확장할 예정입니다.

여러분은 Lens, AI Mode, Circle to Search와 같은 Search 기능과 Chrome의 Gemini를 사용하여 이미지의 출처에 대해 알아볼 수 있습니다. 그저 "이것은 AI로 만들어졌나요?" 또는 "이것은 AI가 생성했나요?"라고 물어보세요.

또한, 콘텐츠가 카메라에서 촬영된 수정되지 않은 원본인지, 아니면 어떤 도구에 의해 수정되었는지 쉽게 확인할 수 있도록 C2PA 콘텐츠 자격 증명 (Content Credentials) 검증 기능을 추가하고 있습니다. 이 기능은 오늘부터 Gemini 앱에 출시되며, 향후 몇 달 안에 Search와 Chrome에도 도입될 예정입니다. 이는 AI 생성 콘텐츠를 식별하는 YouTube의 라벨과 같은 기능, 그리고 탐지 도구를 더 빠르고 신뢰할 수 있게 만들기 위해 Backstory의 신뢰할 수 있는 테스터들과 함께 진행한 작업의 연장선에 있습니다.

업계 전반에 걸친 파트너십

디지털 미디어는 수많은 플랫폼을 통해 이동하기 때문에, 업계 전반의 파트너십과 강력하고 상호 운용 가능한 (interoperable) 도구의 도입이 필수적입니다. OpenAI, Kakao, ElevenLabs와 같은 기업들이 자사의 더 많은 AI 생성 콘텐츠에 SynthID 기술을 적용함에 따라, 곧 웹상의 더 많은 콘텐츠에 이러한 눈에 보이지 않는 워터마크 (watermarks)가 포함될 것입니다. 이는 SynthID 텍스트 워터마킹 기술을 오픈 소스로 공개하고, NVIDIA와 파트너십을 맺어 그들의 Cosmos 월드 파운데이션 모델 (world foundation models)에서 생성된 AI 비디오에 워터마크를 삽입하는 등 콘텐츠의 출처를 더 명확하게 만들기 위해 진행 중인 노력의 결과입니다.

더 많은 조직이 AI 생성 미디어를 식별할 수 있도록, Google Cloud의 Gemini Enterprise Agent Platform에서 새로운 AI 콘텐츠 탐지 API (AI Content Detection API)를 출시합니다. 이를 통해 기업은 Google 및 기타 인기 모델이 생성한 AI 콘텐츠를 식별할 수 있는 강력한 방법을 갖게 되며, 피드 분류 및 보험 사기 방지와 같은 백엔드 운영부터 사실 확인 및 합성 미디어 라벨링과 같은 사용자 대상 콘텐츠에 이르기까지, 자체 플랫폼에서 미디어를 어떻게 평가하고 관리할지 결정하는 데 도움을 받을 수 있습니다. 저희는 우선 신뢰할 수 있는 파트너 그룹과 함께 출시하며, 이들의 피드백을 바탕으로 API를 지속적으로 개선해 나갈 것입니다.

또한 저희는 C2PA 운영 위원회(Steering Committee)의 일원으로서 출처 기술 (Provenance technology)에 대한 글로벌 표준을 옹호하기 위해 지속적으로 노력하고 있습니다. 이를 통해 저희 기기에 내장된 투명성 도구들이 여러분이 매일 사용하는 플랫폼 전반에서 원활하게 작동하도록 보장합니다. 예를 들어, 같은 C2PA 운영 위원회 멤버인 Meta는 Instagram에서 카메라로 촬영된 미디어에 콘텐츠 자격 증명 (Content Credentials) 라벨을 붙이기 시작할 것입니다. 이는 Pixel 폰에서 네이티브로 촬영된 실제 사진과 동영상이 곧 Instagram에 공유될 때 그와 같이 인식되고 라벨이 지정됨을 의미합니다.

저희는 온라인에서 접하는 정보에 대해 유용한 맥락을 제공하기 위해 오랫동안 투자해 왔습니다. 콘텐츠 투명성 (Content transparency)은 복잡한 과제이지만, 저희는 기술을 발전시키고 업계의 높은 기준을 설정할 수 있는 방법들을 계속해서 개발해 나갈 것입니다. 저희의 목표는 여러분이 마주하는 모든 콘텐츠의 이력을 판단하는 데 필요한 도구를 제공하여 여러분에게 힘을 실어주는 것입니다.