OpenAI: AI 생성 콘텐츠 식별을 위한 이미지 워터마크 구현

발생한 사건

OpenAI가 자사의 AI 모델에 의해 생성된 이미지를 식별하기 위해 설계된 새로운 워터마킹 (Watermarking) 기술을 도입했습니다. 이러한 발전은 AI가 합성한 미디어의 탐지 가능성을 개선하여, 인간이 만든 시각 자료와 기계가 생성한 시각 자료 사이의 명확한 구분을 제공하는 것을 목표로 합니다. 이 이니셔티브는 합성 콘텐츠의 확산에 관한 우려를 해결하고 디지털 미디어 배포의 투명성을 강화하기 위한 광범위한 노력의 일환입니다.

대행사에 중요한 이유

마케팅 대행사(Agencies)의 경우, 이번 업데이트는 콘텐츠의 진위 여부에 대한 입증 책임을 변화시킵니다. 고객들이 캠페인 내에서의 "AI 워싱 (AI-washing)" 또는 딥페이크 (Deepfakes)의 가능성에 대해 점점 더 민감해짐에 따라, 시각적 자산에 대한 검증 가능한 출처 (Provenance)를 확보하는 것이 표준 요구 사항이 되고 있습니다.

만약 귀하의 대행사가 빠른 프로토타이핑 (Prototyping)이나 소셜 미디어 크리에이티브를 위해 DALL-E와 같은 도구에 크게 의존하고 있다면, 이제 이러한 워터마크가 최종 결과물에 어떤 영향을 미치는지 고려해야 합니다. 워터마크는 투명성을 돕지만, 워터마크가 보일 경우 브랜드 미학 (Aesthetics)을 깨끗하게 유지하기 위해 추가적인 후반 작업 (Post-production) 단계가 필요할 수도 있습니다. 나아가, 이러한 움직임은 플랫폼들이 의무적 공개 (Mandatory disclosure)를 향해 나아가고 있음을 시사합니다. 이러한 워터마크가 적용된 자산을 워크플로 (Workflows)에 선제적으로 통합하거나 고객을 위해 명확하게 라벨을 붙이는 대행사는 더 큰 신뢰를 구축할 것입니다. 이는 만약 자산이 나중에 제3자 탐지 도구에 의해 AI 생성물로 분류될 경우 발생할 수 있는 고객의 반발 위험을 줄여주며, 귀하의 평판과 고객의 브랜드 무결성 (Brand integrity)을 모두 보호합니다.

어떻게 대응해야 하는가

먼저, 현재의 크리에이티브 워크플로 (Creative workflow)를 감사하여 어떤 자산이 OpenAI 모델을 통해 생성되었는지 식별하십시오. 만약 이러한 이미지를 중요한 고객 작업에 사용한다면, 고객을 위한 공개 조항 (Disclosure clause)을 포함하도록 내부 "AI 사용 정책 (AI Usage Policy)"을 업데이트하십시오. 둘째, 이러한 워터마크 (Watermarks)가 귀하의 시각적 디자인 표준을 방해하지 않도록 최종 내보내기 형식 (Export formats)에서의 가시성을 테스트하십시오. 만약 워터마크가 방해가 된다면, 메타데이터 (Metadata)와 출처 표기 (Attribution)에 대해 더 세밀한 제어를 제공하는 대안적인 생성 도구 또는 워크플로를 평가하십시오. 마지막으로, 잠재적인 법적 또는 윤리적 복잡성을 피하기 위해 팀이 AI 생성 콘텐츠를 처리하고 공개하는 방법에 대해 교육받았는지 확인하십시오.

주의 깊게 살펴봐야 할 점

주요 소셜 미디어 플랫폼과 검색 엔진이 이러한 워터마크를 자신들의 랭킹 알고리즘 (Ranking algorithms)에 어떻게 통합하는지 모니터링하십시오. 이러한 마커 (Markers)가 포함된 콘텐츠는 유기적 도달 범위 (Organic reach)나 검색 가시성 (Search visibility) 측면에서 다르게 취급될 가능성이 있습니다. 또한, 경쟁사들이 유사한 표준을 채택하는지 추적하십시오. 이는 모든 생성형 크리에이티브 서비스 (Generative creative services)를 위한 업계 기준 (Industry baseline)이 될 가능성이 높기 때문입니다.

_출처: OpenAI's new image watermarks make it easier to spot AI fakes - here's how

원문 게시 위치: https://ai.nidal.cloud