신뢰할 수 있는 AI 생태계 보장을 위한 유럽의 노력 지원

OpenAI는 수년간의 출처 (provenance) 관련 작업을 바탕으로, AI 생성 콘텐츠의 투명성에 관한 EU 실무 규범 (Code of Practice)을 지원한다고 발표했습니다.

사람들은 새로운 방식으로 콘텐츠를 생성하고 편집하기 위해 AI를 사용하고 있습니다. 이러한 도구들이 더 유능해지고 더 널리 사용됨에 따라, 사람들은 온라인에서 보는 콘텐츠에 대한 맥락을 파악할 수 있어야 합니다.

오늘, 유럽 위원회(European Commission)의 AI 생성 콘텐츠 투명성에 관한 실무 규범 (Code of Practice on Transparency of AI-Generated Content) (새 창에서 열기)이 발표됨에 따라, OpenAI는 이 규범과 그 이면에 담긴 야심찬 목표를 지지한다고 발표합니다. 이 규범은 EU AI 법 (EU AI Act)을 이행하고 더욱 투명한 디지털 생태계를 구축하는 데 있어 중요한 단계입니다.

우리의 지원은 AI 생성 콘텐츠의 출처 (provenance)를 강화하기 위한 수년간의 내부 연구, 제품 개발 및 광범위한 생태계와의 협력을 바탕으로 합니다. OpenAI는 2024년 DALL-E 3 이미지 생성 도구에 C2PA 메타데이터 (metadata)를 추가하기 시작한 이후로 출처 (provenance) 표준을 개발하고 채택해 왔습니다. 그 이후로 우리는 개선된 마킹 및 탐지 방법, 새로운 연구, 그리고 첫 번째 공개 검증 도구의 출시를 통해 출처 (provenance)를 지속적으로 강화해 왔습니다. 수년간의 전문 지식을 바탕으로, 우리는 수백 명의 다른 이해관계자들과 함께 이 규범의 개발에 기여하여 신뢰할 수 있는 AI 생태계를 보장할 수 있도록 도왔습니다.

이는 유럽 내 AI 거버넌스 (AI governance)에 대한 우리의 광범위한 접근 방식을 기반으로 합니다. 2025년, OpenAI는 미국 기업 최초로 EU의 범용 AI 실무 규범 (General-Purpose AI Code of Practice)(새 창에서 열기)에 서명했으며, 이는 명확하고 실행 가능한 규칙이 기업에 지속적인 개발을 위한 확실성을 제공하는 동시에 AI가 책임감 있게 발전하는 데 도움을 줄 수 있다는 우리의 믿음을 반영합니다. 우리는 동일한 정신으로 이 새로운 규범을 지지합니다. AI 생성 콘텐츠의 투명성을 증진하는 것은 가치 사슬 (value chain) 전반에 걸친 행위자들의 기여가 필요한 생태계 전반의 노력입니다. EU AI 법 (EU AI Act)과 해당 규범은 이를 인식하고 있으며, 우리는 관련 제품에 적용되는 요구 사항을 준수함으로써 우리의 역할을 다할 것을 약속합니다.

AI 도구가 사람들이 구축하고, 상상하고, 공유하는 방식의 일부가 됨에 따라, 사람들이 콘텐츠가 어디에서 왔는지 이해하고 확신을 가지고 해석할 수 있는 것이 중요합니다. 출처 신호 (Provenance signals)는 콘텐츠의 출처, 생성 또는 편집 방식, 그리고 그것이 주장하는 바와 일치하는지에 대한 맥락을 제공함으로써 도움을 줄 수 있습니다. 또한 출처 정보는 허위 정보 캠페인을 탐지하기 쉽게 만들고 선거의 무결성을 지원함으로써 디지털 생태계를 보호하는 데에도 도움이 될 수 있습니다.

효과적이고 신뢰할 수 있으며 강력한 출처 (provenance) 방식은 집단적으로 구축되어 생태계 전반에서 작동해야 합니다. 이것이 바로 우리가 뉴스 기관, 기기 제조업체, 온라인 플랫폼 및 AI 제공업체를 결집하여 상호 운용 가능한 표준을 발전시키는 C2PA와 같은 연합과 협력하는 이유입니다. C2PA 메타데이터 (metadata)는 출처 정보의 중요한 기반입니다. 이는 콘텐츠가 어디에서 왔는지, 어떻게 생성 또는 편집되었는지, 그리고 누가 해당 정보에 서명했는지에 대한 정보를 담을 수 있도록 돕습니다. 하지만 메타데이터가 완벽한 것은 아닙니다. 메타데이터는 제거될 수 있고, 업로드 및 다운로드 과정에서 손실될 수 있으며, 파일 형식 변경, 크기 조정 또는 스크린샷과 같은 변환 과정에서 깨질 수 있습니다.

출처 정보를 더욱 탄력적으로 만들기 위해, OpenAI는 다양한 신호, 제품 보호 조치, 그리고 더 넓은 생태계 전반의 협업을 결합한 다층적 접근 방식을 취하고 있습니다. 우리의 현재 작업에는 다음이 포함됩니다:

이미지를 위한 C2PA Content Credentials (새 창에서 열기): 우리는 ChatGPT 및 OpenAI API에서 DALL·E 3에 의해 생성 및 편집된 이미지에 C2PA 메타데이터 (metadata)를 추가하기 시작했으며, OpenAI가 생성한 이미지 전반에 걸쳐 출처 신호 (provenance signals)를 지속적으로 확장해 왔습니다. OpenAI 생성 이미지에 대한 다중 신호: ChatGPT, Codex 및 OpenAI API로 생성된 이미지에는 C2PA 메타데이터와 SynthID 워터마크 (watermarks)가 모두 포함됩니다. 메타데이터는 더 풍부한 정보를 담을 수 있는 반면, 워터마킹은 다양한 맥락에서도 신호를 보존하는 데 도움이 될 수 있습니다. 공개 검증 경험: openai.com/verify를 통해 사람들은 지원되는 이미지가 OpenAI 생성 이미지와 관련된 출처 신호를 포함하고 있는지 확인할 수 있습니다. 개방형 표준에 대한 기여: 2024년, OpenAI는 소프트웨어 기업, 카메라 제조업체, 미디어 조직 및 온라인 플랫폼이 참여하는 산업 간 협력 노력인 C2PA 운영 위원회 (Steering Committee)에 합류했습니다. 제품 보호 조치: 출처 정보는 초상권 오용 및 선거 관련 기만 행위를 포함하여 AI 생성 콘텐츠의 기만적 사용을 줄이는 정책, 분류기 (classifiers), 보고 채널 및 집행 프로세스를 보완합니다.

출처 정보가 유용하기는 하지만, 여전히 초기 단계의 분야입니다. 콘텐츠가 온라인으로 이동함에 따라 신호가 손실될 수 있습니다. 메타데이터는 제거될 수 있고, 워터마크는 품질이 저하될 수 있으며, 라벨은 사람들이 콘텐츠를 접하는 경우에만 도움이 됩니다. 출처 기술의 신뢰성, 견고성 (robustness) 및 상호 운용성 (interoperability)을 발전시키기 위해서는 여전히 생태계 내의 상당한 작업과 협력이 필요합니다.

실행 규범 (Code of Practice)은 올바른 방향을 제시합니다. 즉, 출처 기술을 발전시키기 위한 높은 수준의 야심찬 목표를 설정하는 것입니다. 이것이 구현됨에 따라, 실제로 작동하는 방식에 기반을 두어야 하며 현재 기술의 한계를 반영할 수 있을 만큼 충분히 유연해야 합니다.

OpenAI는 모든 제품에 걸쳐 콘텐츠 투명성 (content transparency)을 지속적으로 강화하고, 상호 운용 가능한 표준 (interoperable standards)의 개발에 기여하며, 검증 도구 (verification tools)를 개선해 나갈 것입니다. 우리는 더 안전하고 투명한 AI 생태계를 구축하기 위해 AI Office, 회원국 (Member States), 그리고 더 넓은 AI 커뮤니티와 협력하기를 기대합니다.