EU의 AI 라벨링에 대한 새로운 지침

이번 주에는 EU에서 '막대한 벌금', '급진적인 조치', 그리고 EU의 광범위한 새로운 AI 규칙에 대한 많은 혼란과 공황이 있었습니다. 하지만 실제로는 훨씬 더 좁고, 훨씬 더 합리적입니다. 그리고 대부분은 AI가 실제로 명확해야 할 때, 특히 AI 생성 콘텐츠의 경우 더욱 명확하게 만드는 것에 관한 것입니다.

2026년 8월 2일부터 EU 시민에게 서비스를 제공하는 모든 회사에 대해 AI 라벨링이 법적 의무 사항입니다. 그리고 유럽 접근성법(European Accessibility Act)과 유사하게, 이는 EU 회사에만 국한되지 않습니다. AI 결과물이 EU 내 사람들에게 사용되는 한, 전 세계의 모든 회사가 영향을 받습니다. 우리에게 정확히 무엇을 의미하는지 살펴보겠습니다.

실제로 라벨링이 필요한 것들

AI 라벨링의 목표는 AI 콘텐츠에 노출된 모든 사람이 해당 콘텐츠가 인공적으로 생성되었거나 조작되었다는 것을 명확하고 구별할 수 있는 방식으로 인식하도록 돕는 것입니다.

[AI Act]의 제50조(4)항에 따르면, AI 라벨링은 다음 사항에 적용됩니다:

1. 딥페이크(Deepfakes). 실제 인물, 사물, 장소 또는 사건과 유사하여 허위로 진정하거나 사실인 것처럼 보일 수 있는 모든 이미지, 오디오 또는 비디오. 기만적으로 현실적이지 않은 콘텐츠는 일반적으로 해당되지 않습니다.
2. 챗봇 및 AI 에이전트(Chatbots and AI agents). 사용자가 인간과 대화하고 있지 않다면 사용자에게 알려야 합니다.
3. 완전히 AI가 작성한 텍스트(Fully AI-written text). 특히 공익에 관한 사안에서, 인간의 검토나 편집 작업이 없었던 경우입니다.
4. 감정 인식 및 생체 계정 분류 도구(Emotion recognition and biometric categorization tools).

제공자(providers) (AI 시스템을 구축하거나 공급하는 주체)와 배포자(deployers) (이를 사용하는 주체) 모두 법적 의무를 가집니다. GDPR 및 EAA와 유사하게, 회사가 제3자로부터 외부 AI 도구를 라이선스 받았다고 해서 제50조에서 벗어날 수는 없습니다.

하지만 모든 AI 생성 콘텐츠가 명시적으로 라벨링되어야 한다는 의미는 아닙니다.

모든 AI 생성 콘텐츠가 라벨링되어야 하는 것은 아니다
위에서 언급한 사용 사례 외에, 사실상 다른 모든 것 — 즉 대다수의 AI 지원 작업 — 은 새로운 투명성 규칙의 적용을 받지 않습니다. 특히 주목할 점은, AI 생성 텍스트가 인간에 의해 검토 및 편집된 경우, 특정 개인이나 법인이 편집 책임을 지는 경우에는 공개 의무가 적용되지 않는다는 것입니다.

“공익(public interest)”이 정확히 무엇을 의미하는지, 어디서 시작하고 어디서 끝나는지에 대해서는 혼란이 있습니다. 그 자체로는 건강, 안전, 환경, 경제, 금융, 정치, 과학 또는 문화를 지칭합니다. 만약 AI 생성 제품 주장이 이와 관련된다면, 공개 규칙이 적용됩니다.

일부 법무법인에서는 광고, 마케팅 및 기타 상업적 콘텐츠를 위해 예방책으로 사실적인 AI 생성 일러스트레이션이나 사진에 라벨을 부착할 것을 권장합니다. AI 생성 제품 일러스트레이션, 사진 또는 포스터는 실제 사람, 장소, 사물 또는 사건과 유사한 경우에는 공개 의무가 필요합니다.

“편집된” 것과 “AI 생성” 것 사이의 미묘한 경계
하지만 편집된 AI 콘텐츠는 어느 시점에서 AI 콘텐츠가 아닌 것으로 간주될까요? 양식에 AI로 미리 채워져 있다가 사용자가 편집하는 경우, 여전히 AI일까요? EU 집행위원회(EU Commission)의 지침은 다소 모호합니다. 철자 검사, 문법, 서식 지정, 자르기, 색상 보정 및 AI 생성 번역과 같은 작은 지원적 편집은 AI 생성으로 간주되지 않습니다.

AI가 생성한 요약(summaries), 합성 이미지(composite imagery), 실질적인 재작성(substantive rewrites) 또는 사진의 요소 추가 및 제거는 AI 생성으로 간주됩니다. 실제로 사람이 작성한 문장을 다듬는 것은 괜찮지만, 그 문장 자체를 생성하는 경우에는 공개가 필요합니다.

‘사람이 출판 전에 훑어봤다’라는 것만으로는 편집 검토(editorial review)로 인정되지 않습니다. 위원회는 반드시 실질적이어야 하며, 편집 통제에 책임지는 특정 인물이 있어야 한다고 명시하고 있습니다.

다시 말해, 미묘한 경계는 의도적인 수동 개입과 자동 생성 사이의 차이에 놓여 있습니다. 후자(자동 생성)는 항상 공개되어야 합니다 (예외: 폐쇄된 B2B 환경).

AI Sparkles는 충분하지 않을 수 있다

실무 지침(Code of Practice)의 일환으로 유럽 위원회는 EU AI 아이콘 세트를 발표했습니다. 이는 많은 제품들이 AI 신호를 보내기 위해 사용하는 일반적인 ✨ 반짝임과는 다른, 특정 “AI” 마크입니다 (Carbon Design System의 AI 라벨과 유사합니다). 이 신호는 “명확하고 구별 가능해야” 합니다.

반짝임은 AI를 명확하게 알리는 데 너무 모호할 수 있습니다. 주로 그것이 “AI 기반 기능(AI-powered feature)”을 의미하는 데 사용되는 경우가 많기 때문이지, “이 특정 콘텐츠가 AI에 의해 생성되었다”는 것을 의미하지는 않기 때문입니다. 이것이 바로 EU 지침이 배제하려고 노력하는 신호의 종류입니다.

위원회는 명확하게 밝히고 있습니다. 아이콘을 사용하는 것이 그 자체로 법적 준수를 확립하지는 못한다는 것입니다.[https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content]. 눈에 잘 띄지 않는 아이콘, 푸터에 숨겨진 메모, 또는 잠깐 깜빡이는 라벨 모두 준수되지 않습니다.[https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content].

아이콘은 명확하게 보여야 하며[https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content], 평이한 언어 라벨과 보조 기술(assistive technologies)에 접근 가능해야 합니다. 안전한 방법은 어떤 아이콘이든 평문 텍스트(“AI 생성”)와 함께 사용하는 것이며, 재공유되거나 다운로드될 때도 유지되어야 합니다.

실제로 EU 위원회는 AI 콘텐츠의 표시 및 라벨링에 대한 실무 지침(Code of Practice)도 발표했습니다.

EU만의 문제는 아닙니다

마치 EU에서 또 다른 규제가 나오는 것처럼 느껴질 수 있지만, 실제로는 최근 전 세계적으로 유사한 규제들이 많이 등장했습니다:

1. **중국(China)**은 2025년 9월 1일부터 의무적인 AI 라벨링을 시행하고 있습니다. 눈에 보이는 태그와 워터마크가 적용된 메타데이터를 사용합니다.
2. **캘리포니아(California)**는 AB 853으로 개정된 SB 942를 가지고 있으며, EU 규정과 정확히 같은 날짜인 (2026년 8월 2일) 의무화되어 의도적으로 일치하도록 조정되었습니다.
3. **대한민국(South Korea)**은 2026년 1월 22일에 발효된 AI 기본법을 가지고 있으며, 딥페이크 라벨링을 의무화한 최초의 포괄적인 국가 차원 AI 법으로 광범위하게 언급됩니다. 과징금은 EU 기준에 비해 적습니다(위반당 약 $20K). 시행이 본격화되기까지는 1년의 유예 기간이 있습니다.
4. **인도(India)**는 2026년 2월 2일부터 발효된 IT 규칙 개정안을 가지고 있습니다. 플랫폼은 “합성적으로 생성된 정보”를 라벨링해야 하며, 대부분의 유해한 딥페이크에 대한 삭제 기한이 3시간으로 단축되었습니다.

이 모든 것은 우연이라기보다는 패턴으로 보이는 다가오는 AI 규제의 징후들입니다. 따라서 올해 AI 관련 제품을 출시할 계획이라면, 무엇이 정확히 'AI로 라벨링'되어야 하고 무엇은 그렇지 않은지에 대해 논의해 보는 것이 좋을 것입니다.

마무리하며

한 가지 더 말씀드리자면, 새로운 EU AI 투명성 규정은 미국 법률보다 훨씬 광범위합니다. 미국의 경우 특정 주법이 합성 인간 연기자나 정치 광고 또는 특정 AI 애플리케이션에 대한 공개를 요구하기 때문입니다.

이 모든 것이 패닉이나 혼란을 야기할 만한 것은 아닙니다. 이는 전 세계적으로 거의 동시에 나타나고 있는 상당히 간단한 아이디어에 관한 것입니다:

AI 콘텐츠가 인간의 콘텐츠로 쉽게 오인될 수 있을 때, 창작자는 이를 명확하고, 분명하며, 모호하지 않은 방식으로 밝혀야 합니다. 그리고 AI가 생성한 UI 부분 역시 그 사실을 공개해야 합니다.

오히려 이는 사람들이 AI 관련 쓰레기(slop)와 그렇지 않은 것을 구별하는 데 도움이 될 것이며, 모든 사람이 이로부터 혜택을 받을 수 있을 것입니다.

'AI 인터페이스 디자인 패턴' 알아보기

Vitaly의 새로운 비디오 코스인 Design Patterns For AI Interfaces를 만나보세요. 실제 제품의 실용적인 예시와 함께하며, 곧 실시간 UX 교육이 열릴 예정입니다. 무료 미리보기로 이동.

Vitaly의 인터페이스 디자인 및 UX에 관한 비디오 코스인 Design Patterns For AI Interfaces를 만나보세요.

• 비디오 + UX 교육
• 비디오만

비디오 + UX 교육

$ 450.00 $ 799.00 비디오 + UX 교육 받기

30개 비디오 강의(10시간) + Live UX 트레이닝.
100일 환불 보장.

비디오만 이용하기

$ 275.00$ 395.00

비디오 코스 구매하기

30개 비디오 강의(10시간). 매년 업데이트됨.
또한 UX 번들로 3개의 비디오 코스와 함께 이용 가능합니다.

유용한 자료

• 더 안전하고 투명한 AI, 유럽 위원회 공식 발표
• AI 생성 콘텐츠 라벨링을 위한 EU 아이콘, 실제 아이콘 세트 및 배치 규칙
• 투명성 의무 지침 (제50조), 상세한 규정 준수 가이드라인
• AI 생성 콘텐츠 표시 및 라벨링에 관한 실천 강령
• FAQ: 제50조에 따른 투명성 의무, 쉬운 언어의 Q&A
• AI 반짝이 아이콘의 문제점, 왜 ✨가 공개 신호로 너무 모호한지 (Nielsen Norman Group)
• Carbon Design System: AI 라벨, 명확하고 접근 가능한 AI 공개를 위한 제작 준비 완료 패턴