EU AI Act가 2026년 발효: 기업이 공개해야 할 사항

EU AI Act는 2026년 8월 2일부터 특정 AI 시스템을 제공하거나 배포하는 기업에 새로운 투명성 의무를 부과합니다. 제50조(Article 50)는 사람들이 AI와 상호작용할 때 공개 사항을 요구하며, 딥페이크(deepfakes)를 포함하여 AI가 생성하거나 조작한 콘텐츠에 대한 라벨링 기대치를 만듭니다. 챗봇, 생성형 미디어 도구, 감정 인식 시스템 또는 생체 인식 분류기를 사용하는 기업의 경우, 실질적인 과제는 AI가 사람에게 보이는 지점을 식별하고 그 역할을 명확히 하는 것입니다.

이러한 의무 사항은 Regulation (EU) 2024/1689의 공식 텍스트 일부이며, 일반적으로 EU AI Act로 알려져 있습니다. 이 규칙들은 기만을 줄이고 사람들이 콘텐츠나 상호작용이 AI와 관련되어 있는지 인식하도록 돕는 것을 목표로 합니다. 또한 도구 제공업체 및 고객, 마케팅, 편집 또는 대중에게 노출되는 워크플로우에 AI를 도입하는 조직들에게 보다 구체적인 이행 기한을 만듭니다.

제50조가 요구하는 사항

제50조는 투명성 의무를 공급업체(providers), 즉 AI 시스템을 개발하거나 시장에 출시하는 주체와 배포업체(deployers), 즉 관련 시스템을 사용하는 주체 간에 나눕니다. 정확한 의무는 시스템의 유형과 사용 방식에 따라 달라집니다.

규정은 AI를 포함하는 모든 소프트웨어 사용에 라벨을 붙여야 하는 포괄적인 요구 사항이 아닙니다. 이 규정들은 개인이 AI와 상호 작용하는 특정 상황, 생성되거나 조작된 콘텐츠가 감지되어야 하는 경우, 또는 시스템이 감정 인식이나 생체 인식 분류를 통해 사람들이 어떻게 인식되는지에 영향을 미칠 수 있는 경우에 초점을 맞춥니다. 기업은 공급업체의 광범위한 설명에 의존하기보다는 실제 사용자 여정과 결과물을 평가해야 합니다.

콘텐츠 라벨 및 딥페이크 공개

가장 눈에 띄는 변화는 합성 콘텐츠와 관련될 수 있습니다. 오디오, 이미지, 비디오 또는 텍스트를 생성하거나 조작하는 시스템의 제공업체는 관련 콘텐츠의 출처가 기계 판독 가능 형식에서 감지될 수 있도록 할 의무가 있습니다. 이는 단순히 이미지에 캡션을 추가하거나 비디오 아래에 텍스트 줄을 추가하는 것과는 다릅니다. 기계 판독 가능 마킹은 인공적인 출처에 대한 기술적 검증을 지원하기 위한 것입니다.

배포자(Deployers) 역시 딥페이크 또는 AI 생성 공익 관심 텍스트를 게시할 때 자체적인 공개 의무가 있습니다. EU는 또한 자발적인 **AI 생성 콘텐츠 표시 및 라벨링 모범 사례 코드(Code of Practice on Marking and Labelling AI-Generated Content)**를 발표했습니다. 이는 제공업체와 배포자에게 실용적인 프레임워크를 제공하고, 콘텐츠 마킹에 대한 개방형 표준을 장려하며, 일관된 라벨링을 지원하기 위한 EU 아이콘 세트를 포함합니다.

이 코드는 자발적이지만, 기업이 높은 수준의 법적 의무에서 반복 가능한 제품 및 출판 관행으로 나아가는 데 도움을 줄 수 있습니다. 예를 들어, 제공업체는 자체 도구가 콘텐츠 출처(content provenance)를 기록하는 방식을 매핑할 수 있으며, 마케팅 또는 편집 팀은 AI 지원 자료를 게시하기 전에 언제 가시적인 공개가 필요한지 정의할 수 있습니다.

2026년 8월 마감일에 대비하기

중요한 날짜는 Article 50 의무가 적용될 예정인 2026년 8월 2일입니다. 이보다 일찍 시장에 출시된 특정 생성형 AI 콘텐츠의 경우 과도기적 고려 사항이 있습니다. 해당 구식 콘텐츠에 대한 표시(marking) 의무는 2026년 12월까지 연장될 수 있습니다. 기존 AI 도구에 의존하는 기업들은 현재 결과물이 규정 밖에 있다고 가정하기보다는, 공급업체가 이러한 전환을 어떻게 처리할 계획인지 확인해야 합니다.

실질적인 준비 과정은 제한된 인벤토리(inventory)와 명확한 소유권 모델로 시작할 수 있습니다:

• 제3자 도구를 포함하여 고객 대면형, 직원 대면형, 공공 대면형 AI 시스템 목록 작성.
• 사람들이 AI 에이전트, 챗봇 또는 자동화된 인터페이스를 AI로 인식하지 못하고 상호작용할 수 있는 지점 식별.
• 시스템과 사용 사례가 표시(marking) 또는 공개 의무를 유발하는지 판단하기 위해 생성된 텍스트, 이미지, 오디오 및 비디오 검토.
• 공급업체에 검증 가능하고 기계 판독 가능한 콘텐츠 표시를 어떻게 지원하며 어떤 문서를 제공하는지 문의.
• 딥페이크(deepfakes) 및 AI 생성 공익 콘텐츠에 대한 게시 및 승인 규칙 설정.
• 조직이 접근 방식을 설명할 수 있도록 의사 결정, 구성, 공개 내용, 공급업체 정보의 증거 보관.

이러한 단계들은 웹사이트, 지원 흐름(support flows), 제품 인터페이스 및 콘텐츠 제작 프로세스에 대한 막판 변경을 줄일 수 있습니다. 또한 고객 명확성을 개선할 수도 있습니다. 예를 들어, AI 채팅 상호작용 시작 시 간결한 공지 사항은 사용자가 정보를 공유하거나 답변에 따라 행동하기 전에 기대치를 설정해 줄 수 있습니다.

집행 및 재정적 위험 노출

집행은 국가 시장 감시 당국, 일반 목적형 AI(general-purpose AI) 관련 AI 사무소 및 기타 지정 시스템, 그리고 EU 기관이 제공자 또는 배포자인 경우 유럽 데이터 보호 감독관(European Data Protection Supervisor) 간에 공유됩니다. AI Act는 관련 위반 행위에 대해 회사 유형에 따라 최대 **1,500만 유로 또는 전 세계 매출의 3%**까지 벌금을 부과할 수 있도록 규정하고 있습니다.

이러한 잠재적 노출은 투명성을 단순히 디자인이나 커뮤니케이션 문제로 취급해서는 안 된다는 것을 중요하게 만듭니다. 이는 제품 구성, 벤더 선정, 콘텐츠 프로세스, 그리고 운영 책임과 관련됩니다. 하지만 목표가 반드시 복잡한 규정 준수 프로그램인 것은 아닙니다. 많은 팀에게 있어 당장의 우선순위는 AI가 어디에 사용되는지 문서화하고, Article 50이 직접적으로 다루는 사용 사례 주변에 명확하고 비례적인 고지 및 검토 단계를 마련하는 것입니다.

기업에게 투명한 AI는 신뢰의 이점(trust advantage)이 될 수도 있습니다. 사용자들은 자신이 사람과 상호작용하는 것이 아니라 시스템을 다루고 있다는 것을 알 때, AI 상호작용의 한계를 이해할 가능성이 더 높습니다. 명확한 라벨링은 특히 사실적인 합성 자료가 실제 콘텐츠로 오인될 수 있는 경우, 생성된 미디어에 대한 혼란을 방지하는 데 도움이 될 수 있습니다.

만약 귀사가 고객 여정(customer journeys)이나 콘텐츠 워크플로우에 AI를 추가하고 있다면, **Scalevise의 AI 컨설팅**이 Article 50 요구사항을 실질적인 구현 계획으로 전환하는 데 도움을 줄 수 있습니다. Scalevise는 관련 사용 사례를 평가하고, 사용자에게 공개할 사항을 매핑하며, 벤더의 역량을 평가하고, 2026년 마감일 전에 수동적 불확실성을 줄이는 변화에 우선순위를 지정할 수 있습니다. AI 컨설팅 논의 요청부터 시작해 보세요.

자주 묻는 질문 (Frequently Asked Questions)

EU AI Act의 Article 50 투명성 규칙은 언제 적용되나요?

EU AI Act에 따른 Article 50 투명 의무는 2026년 8월 2일부터 적용될 예정입니다. 그 이전에 시장에 출시된 생성형 AI 시스템과 관련된 특정 표시 의무(marking obligations)는 2026년 12월까지 연장되는 과도 기간을 가질 수 있습니다.

기업용 챗봇은 자신이 AI를 사용한다고 명시해야 하나요?

제50조(Article 50)는 제공업체(providers)가 개인이 AI 시스템과 상호작용할 때 이를 알려야 한다고 요구합니다. 고객 대면형 AI를 사용하는 기업은 공급업체가 이 공개(disclosure)를 어떻게 지원하는지, 그리고 이것이 사용자 여정(user journey)에서 어떻게 나타나는지를 검토해야 합니다.

AI 생성 딥페이크는 누가 표시해야 하나요?

배포자(Deployers)는 딥페이크를 게시할 때 이를 공개해야 합니다. 또한 AI가 생성한 공익 관련 텍스트에 대해서도 공개 의무를 가집니다. 제공업체는 관련 AI 생성 또는 조작된 콘텐츠가 기계 판독 가능하게 표시되는 것(machine-readable marking)을 통해 감지되도록 할 별도의 의무를 가집니다.

EU의 AI 생성 콘텐츠 실천 강령은 필수인가요?

아닙니다. AI 생성 콘텐츠 표시 및 라벨링에 관한 실천 강령(Code of Practice on Marking and Labelling AI-Generated Content)은 자발적입니다. 이는 실제적인 지침을 제공하고, 개방형 표준(open standards)을 촉진하며, 조직이 제50조 투명성 조치(Article 50 transparency measures)를 구현하는 데 도움이 될 수 있는 EU 아이콘 세트를 포함합니다.

미준수 시 가능한 처벌은 무엇인가요?

AI 법(AI Act)은 관련 위반 사항 및 기업에 따라 회사에게 최대 1,500만 유로 또는 전 세계 매출의 3%까지 달할 수 있는 벌금 조항을 제공합니다.

결론

제50조는 기업이 AI 상호작용과 합성 콘텐츠를 더 쉽게 인식하도록 할 명확한 마감일을 제시합니다. 2026년 8월 이전에 가장 유용한 작업은 관련 AI 사용 사례(use cases)를 식별하고, 제공업체와 배포자의 책임을 명확히 하며, 공개 및 라벨링 관행을 일반적인 제품 및 출판 워크플로우에 통합하는 것입니다. EU의 자발적 강령은 실질적인 출발점을 제공하지만, 각 조직은 자체 시스템과 사용 사례에 규칙을 적용할 책임이 남아 있습니다.