제50조 제2항에 따른 AI 생성 콘텐츠의 기계 판독 가능 표기

이 가이드는 하단에 링크된 주요 출처에서 AI 에이전트에 의해 작성되었으며, 변호사의 검토를 거치지 않았습니다. 이는 일반 정보이며 법률 자문이 아닙니다. 원본은 https://mdodeja.github.io/eu-ai-act-article-50-guide/guides/ai-content-marking-article-50-2.html에 있습니다.

간단 요약. 표기 의무는 제공자(provider)에게 있으므로, 주요 도구를 사용하여 콘텐츠를 생성하는 경우 사용자가 해야 할 주된 일은 해당 도구가 무엇을 포함하는지 확인하고 이를 제거하지 않는 것입니다. 자체적인 생성 파이프라인을 구축한 경우, 내보내기 시 출처 메타데이터(provenance metadata)를 추가해야 할 수 있습니다.

제50조 제2항의 요구사항

제50조 제2항은 합성 오디오, 이미지, 비디오 또는 텍스트를 생성하는 AI 시스템 제공자에게 해당 결과물이 기계 판독 가능한 형식으로 표기되어야 하며 인공적으로 생성되었거나 조작되었다는 것이 감지 가능해야 함을 요구합니다. 기술적 해결책은 기술적으로 실현 가능한 범위 내에서 효과적이고, 상호 운용 가능하며(interoperable), 강력하고(robust) 신뢰할 수 있어야 합니다.

표준 편집에 대한 보조 기능만 수행하거나 입력 데이터를 실질적으로 변경하지 않는 AI의 경우에는 예외가 있습니다. 문법 수정이나 일상적인 편집은 안전한 범위에 속합니다.

누가 책임을 지는가

이 의무는 제공자(provider)에게 있습니다. 주요 플랫폼을 통해 이미지나 비디오를 생성하는 경우, 해당 플랫폼이 제공자가 되며 표기의 대부분은 도구와 함께 제공되어야 합니다. 사용자의 역할은 그것이 무엇을 추가하는지 알아내고 제거하지 않는 것입니다.

사용자 지정 파이프라인(custom pipeline), 즉 모델 API를 호출하는 자체 코드를 구축한 경우, 사용자가 해당 시스템의 제공자가 될 수 있습니다. 이 경우 표기는 사용자가 추가해야 합니다.

클라이언트 워크플로우에서 확인할 사항

1. 도구가 무엇을 임베드하는지 파악하세요. C2PA 또는 Content Credentials 메타데이터, 혹은 도구 공급업체 자체의 워터마크 등을 찾으세요. 사용된 도구와 해당 기능을 기록해 두세요.
2. 제거하지 마세요. 메타데이터를 삭제할 수 있는 스크린샷, 재인코딩(re-encoding), 이미지 최적화 도구나 편집기는 출처 정보(provenance signal)를 지울 수 있습니다. 실제로 게시하는 파일에 해당 정보가 여전히 포함되어 있는지 확인하세요.
3. 누락된 곳에 추가하세요. 맞춤형 파이프라인의 경우, 내보내기 시 C2PA 매니페스트를 첨부해야 합니다. 이미지의 경우, 최소한 IPTC DigitalSourceType을 trainedAlgorithmicMedia로 설정해야 합니다.
4. 각 파이프라인이 어떤 종류의 결과물을 만드는지 기록하세요. 완전히 AI가 생성한 콘텐츠와 AI가 보조한(AI-assisted) 콘텐츠는 기대하는 바가 다르므로, 어떤 유형을 생산하는지 메모해 두세요.
5. 눈에 보이는 라벨이 필요한 경우 EU의 아이콘을 사용하세요. 위원회는 배포자들이 AI 생성 콘텐츠를 표시하는 데 사용할 수 있는 일련의 아이콘을 발표했습니다.

메타데이터는 눈에 보이는 라벨이 아닙니다. 현실적으로 실제 사람, 장소 또는 이벤트를 묘사하는 콘텐츠는 가시적인 공개(visible disclosure)가 필요합니다. AI 작성 및 AI 생성 콘텐츠 라벨링 지침을 참조하세요.

시점 문제 (The timing question)

위원회(Commission)의 실무 지침 페이지에 따르면 투명성 요구 사항은 2026년 8월 2일부터 적용됩니다.

법무 법인들은 Digital Omnibus 보고서에서 이 의무에 대한 과도기적 규칙을 언급합니다. Gibson Dunn과 Paul Weiss는 2026년 12월 2일까지의 유예 기간을 설명하는데, 이는 2026년 8월 2일 이전에 이미 시장에 출시된 생성 시스템에 해당하며, Paul Weiss는 워터마크 감지 상호 운용성(watermark-detection interoperability)에 대해 더 늦은 날짜인 2027년 2월 2일을 보고합니다. 위원회의 페이지에는 이러한 날짜가 언급되어 있지 않습니다. 이 정보들은 확인된 것이 아니라 보고된 것으로 간주하고, 의존하기 전에 최신 문서를 확인하세요. 2026년 8월 2일 이후에 처음 시장에 출시되는 시스템은 추가적인 시간을 얻지 못하는 것으로 보입니다.

Paul Weiss의 메모에 따르면, 위원회는 메타데이터(metadata)와 워터마킹(watermarking) 같은 여러 방법을 결합하는 방식으로 표준을 충족할 수 있는 단일한 표기 기술을 식별하지 못했습니다.

실행 지침 (Code of Practice)

위원회는 2026년 6월에 AI 생성 콘텐츠 투명성 최종 실행 지침(Code of Practice on Transparency of AI-generated Content)을 발표했습니다. 이는 자발적인 것이지만, 서명하는 공급자들은 이 지침의 조치들을 근거로 규정 준수를 입증할 수 있습니다. 이 지침은 두 개의 섹션으로 구성되어 있습니다. 하나는 표기 및 탐지에 관한 공급자를 위한 것이고, 다른 하나는 딥페이크(deepfakes)와 AI 생성 텍스트에 대한 라벨링을 담당하는 배포자(deployers)를 위한 것입니다. 위원회는 준수가 자발적임에도 불구하고, 제50조의 요구사항은 법적 의무라고 분명히 밝히고 있습니다.

출처 (Sources)

• 제50조 텍스트 at artificialintelligenceact.eu
• 규정 (EU) 2024/1689 on EUR-Lex
• 유럽 위원회: AI 생성 콘텐츠 투명성 실행 지침
• Gibson Dunn: EU AI Act 종합 합의, 보고된 유예 기간에 관하여
• Paul Weiss: EU, AI 생성 콘텐츠 투명성 규칙 확정, 보고된 날짜와 다층적 접근 방식에 관하여