유럽 연합(European Union)의 AI Act는 2026년 8월 2일부터 시행되는 새로운 투명성 의무를 규정할 것입니다. 제50조(Article 50)는 사람들이 챗봇(Chatbots)과 상호작용하거나, AI가 생성 또는 조작한 콘텐츠를 접하거나, 감정 인식(Emotion recognition) 및 생체 인식 분류(Biometric categorisation) 시스템에 노출되는 경우를 포함하여 여러 일반적인 AI 시나리오에서 명확한 공개를 요구합니다. EU 내에서 이러한 도구를 배포하는 AI 개발자, 플랫폼 및 조직에게 당면한 과제는 광범위한 투명성 원칙을 신뢰할 수 있는 제품 제어 및 거버넌스(Governance) 프로세스로 전환하는 것입니다.

이 요구 사항은 흔히 EU AI Act로 알려진 Regulation (EU) 2024/1689의 공식 텍스트에 명시되어 있습니다. 이는 EU 전역에 적용되며, AI 시스템을 개발하거나 시장에 출시하는 **제공자 (Providers)**와 관련 환경에서 시스템을 사용하는 **배포자 (Deployers)**의 의무를 구분합니다.

제50조의 요구 사항

제50조의 핵심은 사람들이 AI가 관여하고 있음을 식별할 수 있고, AI의 특정 결과적 사용을 이해할 수 있도록 보장하는 데 목적이 있습니다. 이는 단일한 보편적 라벨을 부과하는 것이 아닙니다. 대신, 의무 사항은 시스템, 출력물(Output), 그리고 콘텐츠가 공개되는 맥락에 따라 달라집니다.

주요 의무는 네 가지 영역을 다룹니다:

• AI 상호작용 공개 (AI interaction disclosures): 제공자(Providers)는 사람과 직접 상호작용하도록 설계된 시스템의 경우, 사용자가 AI 시스템과 상호작용하고 있음을 인지할 수 있도록 설계해야 합니다. 여기에는 챗봇(Chatbots)이 포함되나, 합리적으로 잘 알고 주의 깊은 사람이라면 그 사실이 명백하게 드러나는 상황은 제외됩니다.
• 기계 판독 가능한 출력물 표시 (Machine-readable output marking): 콘텐츠를 생성하거나 조작하는 AI 시스템의 제공자는 기술적으로 가능하고, 효과적이며, 상호 운용 가능하고, 견고한(robust) 기계 판독 가능한 형식으로 해당 출력물이 AI에 의해 생성되었거나 조작되었음을 감지할 수 있도록 해야 합니다.
• 감정 및 생체 인식 공개 (Emotion and biometric disclosures): 감정 인식(Emotion recognition) 또는 생체 인식 분류(Biometric categorisation) 시스템을 사용하는 배포자(Deployers)는 해당 시스템에 노출되는 사람들에게 시스템의 작동 사실을 알려야 합니다.
• 딥페이크 및 공공 이익 관련 공개 (Deepfake and public-interest disclosures): 실제 사람, 사물, 장소, 개체 또는 사건과 유사한 이미지, 오디오 또는 비디오 콘텐츠를 생성하거나 조작하는 시스템의 배포자는 해당 콘텐츠가 인위적으로 생성되었거나 조작되었음을 공개해야 합니다. 또한 공공의 이익에 관한 사항을 대중에게 알리기 위해 게시되는 특정 AI 생성 또는 조작된 텍스트에 대해서도 별도의 공개 의무가 적용됩니다.

이것들은 투명성 의무(transparency obligations)이며, 기술에 대한 포괄적인 금지(blanket ban)가 아닙니다. 이들의 실질적인 효과는 제50조가 규정하는 상황에서 공개를 제품 및 게시 요건으로 만드는 것입니다.

날짜 및 전환 기간 처리

AI 법(AI Act)의 제50조 투명성 규칙은 법의 집행 권한이 시작되는 2026년 8월 2일부터 시행됩니다. 2026년 8월 2일 이전에 시장에 출시된 AI 시스템의 제공자가 표시 및 감지 의무를 준수할 수 있도록 2026년 12월 2일까지 전환 유예 기간(transitional grace period)이 주어집니다.

이러한 구분은 기존의 생성(generation) 또는 편집(editing) 도구를 유지 관리하는 조직들에게 중요합니다. 이미 시장에 출시된 시스템이라고 해서 자동으로 제50조의 적용 범위에서 벗어나는 것은 아니지만, 제공된 전환 기간은 영향을 받는 제공업체들이 명시된 표시(marking) 및 감지(detection) 요구 사항을 준수할 수 있도록 추가 시간을 부여합니다. 더 광범위한 AI Act의 도입에는 고위험(high-risk) AI 요구 사항 및 범용 AI(general-purpose AI) 모델에 대한 거버넌스를 위한 향후 이정표들도 포함되어 있습니다.

공개(Disclosure)에는 라벨뿐만 아니라 맥락이 필요합니다

챗봇 고지, 가시적인 딥페이크(deepfake) 공개, 그리고 기계 판독 가능한(machine-readable) 표시는 서로 다른 문제를 해결합니다. 이들을 하나의 일반적인 "AI 라벨"로 취급하는 것은 구현과 책임 소재(accountability) 모두에서 공백을 남길 위험이 있습니다.

대화형 제품의 경우, 핵심 질문은 인터페이스가 사용자에게 AI 상호작용을 명확하게 전달하는지 여부입니다. 생성된 콘텐츠의 경우, 제공업체는 AI Act의 기술적 조건에 따라 기계 판독 가능한 형태로 감지 가능성(detectability)을 지원할 수 있는 방법을 갖추어야 합니다. 딥페이크 기능이 있는 시스템을 배포하는 출판사나 플랫폼의 경우, 조작된 콘텐츠가 제공될 때 제시되는 공개(disclosure)에 초점이 맞춰집니다. 감정 인식(emotion recognition) 및 생체 인식 분류(biometric categorisation)는 또 다른 운영상의 우려 사항을 야기합니다. 즉, 시스템을 구매하는 고객뿐만 아니라 시스템에 노출되는 사람들에게도 정보를 제공해야 한다는 점입니다.

제50조에는 중요한 예외 사항과 자격 요건도 포함되어 있습니다. 제공된 가이드라인은 범죄의 탐지, 예방, 조사 또는 기소를 위해 공개가 필요한 예외 상황과 예술적, 창의적, 풍자적 또는 허구적 저작물과 관련된 상황을 식별합니다. 공익적 텍스트에 대한 특정 투명성 의무 또한 콘텐츠가 인간의 검토(human review) 또는 편집 통제(editorial control)를 거쳤고 자연인 또는 법인이 편집 책임을 지는 경우 제한됩니다. 팀은 모든 창의적 또는 편집된 자료에 예외가 적용된다고 가정하기보다 이러한 조건들을 신중하게 평가해야 합니다.

AI 조직이 준비할 수 있는 방법

가장 유용한 준비 방법은 각 AI 기능(capability)을 그 역할, 출력물, 그리고 대상(audience)에 따라 매핑하는 것입니다. 기업은 어떤 제품에 대해서는 제공자(provider)가 될 수 있고, 다른 제품에 대해서는 배포자(deployer)가 될 수 있으므로, 규제 준수 책임(compliance ownership)을 단순히 기업 유형만으로 할당할 수는 없습니다.

실질적인 준비 검토(readiness review)에는 다음 사항이 포함될 수 있습니다:

1. AI 상호작용 및 출력물 인벤토리 작성. 채팅 인터페이스, 콘텐츠 생성 기능, 편집 기능, 딥페이크(deepfake) 관련 워크플로, 그리고 감정 인식(emotion recognition) 또는 생체 인식 분류(biometric categorisation)의 모든 사용 사례를 식별합니다.
2. 제공자(provider) 및 배포자(deployer)의 책임 할당. 어떤 엔티티가 시스템 설계, 출력물 표시, 게시, 그리고 노출된 개인에 대한 통지를 제어하는지 문서화합니다.
3. 사용자 여정(user journeys)에 공시(disclosures) 설계 반영. 멀리 떨어진 정책 페이지에 의존하기보다, 관련 상호작용 또는 게시 시점에 챗봇 고지 및 콘텐츠 공시를 명확하게 만듭니다.
4. 콘텐츠 표시 제어 기능 테스트. 콘텐츠를 생성하거나 조작하는 시스템의 경우, 기술적 접근 방식이 제50조에서 요구하는 기계 판독 가능한 탐지 가능성(machine-readable detectability)을 지원하는지 평가합니다.
5. 예외 사항에 대한 거버넌스 구축. 법 집행, 예술적, 풍자적, 허구적 또는 편집 감독(editorial-oversight) 자격을 활용할 때 그 근거와 검토 프로세스를 기록합니다.

본 규정은 모든 제품에 대해 단 하나의 인터페이스 디자인이나 단 하나의 기술적 구현 방식을 규정하지 않습니다. 이는 제품별 선택의 여지를 남겨두지만, 동시에 증거, 소유권 및 일관된 배포를 중요하게 만듭니다. 디자인 파일에는 존재하지만 API 통합, 다운스트림(downstream) 게시 워크플로 또는 고객 설정 과정에서 사라지는 라벨은 의도된 투명성 결과를 달성하지 못할 수 있습니다.

고객 대상 제품에 AI 기능을 통합하는 조직은 공시 요구 사항을 실질적인 제품 제어 기능과 연결하는 AI 거버넌스, 워크플로 설계 및 구현에 대해 Scalevise와 협력할 수 있습니다.

제50조가 규제 준수 그 이상으로 중요한 이유

제50조는 AI Act의 다른 많은 부분보다 투명성(transparency)을 일상적인 AI 경험에 더 가깝게 배치합니다. 이는 눈에 보이는 제품 상호작용, 게시 워크플로우(publishing workflows), 그리고 생성된 출력물의 기술적 처리 방식에 영향을 미칩니다. 결과적으로 법무(legal), 제품(product), 엔지니어링(engineering), 신뢰 및 안전(trust and safety), 그리고 콘텐츠 팀 모두가 구현 과정에 기여해야 할 수도 있습니다.

플랫폼의 경우, 이러한 요구사항은 콘텐츠를 생성하는 도구, 기존 미디어를 조작하는 도구, 그리고 단순히 인간 저자를 보조하는 시스템 간의 내부적 구분을 더 명확히 하도록 유도할 수 있습니다. 기업 구매자(enterprise buyers)의 경우, 조달(procurement) 및 벤더 검토 과정에서 AI 공급업체가 챗봇 고지(chatbot notices), 출력물 탐지 가능성(output detectability), 그리고 배포자(deployers)가 자신의 의무를 다하는 데 필요한 정보를 지원할 수 있는지 점점 더 많이 질문해야 할 것입니다.

핵심 쟁점은 기업이 추상적으로 AI를 사용하는지 여부가 아닙니다. 기술이 사람과 상호작용하거나, 사람의 콘텐츠 환경에 영향을 미치거나, 혹은 사람을 분류하는 구체적인 맥락에서 사람들이 제50조가 요구하는 공개 사항(disclosures)을 전달받느냐 하는 것입니다.

자주 묻는 질문 (Frequently Asked Questions)

EU AI Act 제50조 투명성 규칙은 언제 적용되나요?

제50조 투명성 의무는 2026년 8월 2일에 집행 가능해집니다. 해당 날짜 이전에 시장에 출시된 AI 시스템의 제공자(providers)는 지정된 표시(marking) 및 탐지 의무에 대해 2026년 12월 2일까지 유예 기간을 가집니다.

EU AI Act에 따라 챗봇은 자신이 AI라고 말해야 하나요?

네. 사람과 직접 상호작용하도록 의도된 AI 시스템의 제공자는 사용자가 합리적으로 잘 알고 주의 깊은 사람(reasonably well-informed and observant person)으로서 상황으로부터 명백하게 알 수 있는 경우가 아니라면, 사용자가 AI 시스템과 상호작용하고 있음을 알려야 합니다.

AI Act는 딥페이크(deepfakes)에 대한 라벨링을 요구하나요?

네. 실제 사람, 사물, 장소, 엔티티 또는 사건과 유사한 이미지, 오디오 또는 비디오 콘텐츠를 생성하거나 조작하는 시스템을 사용하는 배포자(deployers)는 해당 콘텐츠가 인위적으로 생성되었거나 조작되었음을 공개해야 합니다.

AI 생성 콘텐츠에 대한 기계 판독 가능 표시(machine-readable marking)란 무엇을 의미하나요?

제50조는 관련 AI 시스템의 제공자(providers)가 기술적으로 가능할 경우, 생성되거나 조작된 출력물이 AI에 의해 생성되었거나 조작되었음을 기계 판독 가능한(machine-readable) 형식으로 감지할 수 있도록 해야 한다고 규정합니다. 이때 해당 방식은 효과적이고, 상호 운용 가능하며(interoperable), 견고(robust)해야 합니다.

결론

제50조는 2026년 8월부터 많은 제품과 퍼블리싱 워크플로(publishing workflows)에 있어 AI 투명성을 운영 요구 사항(operational requirement)으로 만듭니다. 자신의 역할이 제공자(provider)인지 배포자(deployer)인지를 조기에 식별하고, 관련 사용자 여정(user journeys)에 공시 사항을 구축하며, 신뢰할 수 있는 출력물 표시(output-marking) 프로세스를 수립하는 기업들이 EU AI Act의 요구 사항을 충족하는 데 더 유리한 위치를 점하게 될 것입니다.