2026년 8월 2일 전까지 EU AI Act가 SaaS 스타트업에 실제로 요구하는 사항

이 글은 EU로 LLM (Large Language Model) 기능을 출시하는 SaaS 엔지니어링 팀을 위한 작업 노트입니다. 원래 disclos.eu에 게시되었습니다. 브뤼셀의 정치적 쇼(Brussels theatre)는 건너뛰겠습니다. 규정이 무엇을 말하는지, 언제 시행되는지, 그리고 2026년 8월 2일 전까지 무엇을 해야 하는지에 대해 설명합니다.

EU AI Act는 2026년 8월 2일부터 EU로 AI 기능을 출시하는 기업에 적용되기 시작합니다. 우리가 대화하는 대부분의 SaaS 창업자들은 이것이 다른 누군가의 문제라고 가정합니다. 그렇지 않습니다. 만약 귀하의 제품이 EU의 사용자들과 대화하거나, 합성 콘텐츠 (synthetic content)를 생성하거나, 인사(HR), 교육, 금융 또는 생체 인식 (biometrics) 분야에서 무언가를 수행한다면, 그 의무는 귀하에게 돌아옵니다. 귀하가 기반으로 삼고 있는 모델 제공업체들은 2025년 8월에 자신들의 의무를 처리했습니다.

처벌 프레임워크 (penalty framework) 또한 같은 날짜에 적용됩니다. 금지된 관행 (prohibited practices)에 대한 상한선은 3,500만 유로 또는 전 세계 매출액의 7%입니다. 고위험 (high-risk) 의무 상한선은 1,500만 유로 또는 3%입니다. 잘못된 정보를 제공하는 경우 750만 유로 또는 1%의 비용이 발생합니다. 중소기업 (SME) 상한선은 두 수치 중 낮은 금액을 적용받지만, 시리즈 A 단계에서 Article 50 공시를 누락하는 것은 여전히 기업의 생존(runway)을 위협할 정도의 큰 금액입니다.

2026년 8월 2일에 시행되는 사항

이 법안은 단계적으로 적용됩니다. 반드시 알아야 할 세 가지 날짜가 있습니다.

첫 번째는 2025년 2월 2일이었습니다. 이때 Article 5에서 금지된 관행들이 적용되기 시작했습니다. 사회적 점수 매기기 (Social scoring), 공공장소에서의 실시간 생체 인식 ID (real-time biometric ID), 조작적 AI (manipulative AI), 직장 및 학교에서의 감정 인식 (emotion recognition) 등이 해당됩니다. 만약 귀하가 이 중 하나라도 수행하고 있다면, 귀하의 회사는 이미 규정을 준수하지 않고 있는 것입니다.

다음은 2025년 8월 2일이었습니다. 이때 OpenAI, Anthropic, Google, Meta, Mistral과 같은 GPAI (General Purpose AI) 모델 제공업체들에게 Article 51부터 55까지의 의무가 부여되기 시작했습니다. 이 단계는 귀하의 SaaS보다 상류(upstream) 단계에 해당합니다.

귀하에게 중요한 단계는 2026년 8월 2일입니다. 이때 법안의 나머지 부분이 적용됩니다. Article 50 투명성 규칙 (transparency rules), Chapter III의 고위험 체제 (high-risk regime), 처벌 프레임워크, AI Office의 집행 권한 등이 포함됩니다. 만약 귀하가 LLM 기능을 출시했고 해당 날짜에 EU 사용자가 있다면, 바로 이 단계가 귀하에게 영향을 미칩니다.

4가지 질문을 통한 분류 (triage)

준수(conformance) 작업을 위해 단 한 시간도 쓰기 전에, 이 분류(triage) 과정을 먼저 거치십시오. 답변에 따라 귀하의 제품에 적용되는 조항과 수행해야 할 작업량이 결정됩니다.

질문 1: 귀하는 제공자(Provider)입니까, 배포자(Deployer)입니까, 아니면 둘 다입니까? 제공자(Provider)는 자신의 이름으로 AI 시스템을 시장에 출시하는 주체입니다. 배포자(Deployer)는 이를 사용하는 주체입니다. 만약 귀하가 GPT-4를 귀하의 SaaS에 포함하여 귀하의 브랜드로 판매한다면, 귀하는 결과물인 AI 시스템의 제공자(Provider)이자 기반 범용 AI (GPAI) 모델의 배포자(Deployer)가 됩니다. 대부분의 SaaS는 이 두 영역의 중첩 구간에 위치합니다.

질문 2: 부속서 III (Annex III)가 귀하의 제품에 해당합니까? 부속서 III (Annex III)는 고위험 (high-risk) 사용 사례를 나열합니다. SaaS에 가장 자주 적용되는 카테고리는 생체 인식 (biometric identification) 또는 분류 (categorization), 핵심 인프라 (에너지, 물, 교통), 교육 및 직업 훈련 (입학 점수 산정, 표절 탐지, 시험 감독), 고용 및 인사 (CV 스크리닝, 성과 평가, 모니터링), 필수 서비스 접근 (신용 점수 산정, 보험 가격 책정, 긴급 출동), 법 집행 사용 사례, 이주, 망명, 국경 통제, 그리고 사법 및 민주적 절차의 행정입니다.

만약 귀하의 SaaS가 CV 스크리닝, 신용 점수 산정, 자동 채점, 또는 시험 감독을 수행한다면, 귀하는 고위험 (high-risk)군에 속합니다. 이 경우 제3장 (Chapter III)이 적용됩니다. 문서화 작업의 부담은 시스템당 수백 시간의 엔지니어링 및 컴플라이언스 (compliance) 시간을 소요할 수 있습니다. 지금부터 이에 대한 계획을 세우십시오. 만약 귀하의 SaaS가 위 8가지 사항 중 어디에도 해당하지 않는다면, 고위험 (high-risk)군이 아닙니다. 귀하의 주요 노출 영역은 제50조 (Article 50)입니다.

질문 3: 파운데이션 모델 (foundation model)을 미세 조정 (fine-tune)하거나 실질적으로 수정합니까? 만약 그렇다면, 제25조 (Article 25)에 따라 GPAI 제공자 (GPAI Provider) 의무를 승계할 수 있습니다. 실질적 수정 (substantial modification)의 기준은 아직 확립되지 않았습니다. GPAI 실무 강령 (GPAI Code of Practice) 협의는 명확한 답변 없이 2026년 3월에 종료되었습니다. 만약 프롬프트 엔지니어링 (prompt engineering) 이상의 미세 조정 (fine-tune)을 수행한다면, 8월 2일 전까지 서면 법률 의견서를 받을 수 있도록 예산을 편성하십시오.

질문 4: 귀사의 AI 기능 중 제5조(Article 5)의 금지된 관행에 해당하는 것이 있습니까? 제5조 목록을 한 번 훑어보십시오. 대부분의 SaaS는 이에 해당하지 않을 것입니다. 직장 내 감정 인식(Workplace emotion recognition)이 팀들을 당황하게 만드는 항목입니다. 만약 이메일이나 통화 녹음에서 직원의 감정(sentiment)을 분석한다면, 귀사가 이에 해당합니다.

모든 이에게 영향을 미치는 부분인 제50조 (Article 50)

제50조는 고위험(high-risk) 상태 여부와 관계없이, 2026년 8월 2일까지 EU 사용자에게 AI를 제공하는 모든 SaaS가 짊어져야 할 의무입니다. 여기에는 네 가지 세부 규칙이 있습니다.

50(1)조는 사용자와 상호작용하는 AI 시스템을 다룹니다. 문맥상 명백한 경우를 제외하고는, 사용자가 AI와 대화하고 있다는 사실을 알려야 합니다.

50(2)조는 합성 텍스트, 이미지, 오디오 또는 비디오 출력물을 다룹니다. 이를 기계 판독이 가능한 방식(machine-readable way)으로 AI가 생성했음을 표시해야 합니다. 예상되는 표준은 C2PA입니다. 유럽 표준화 기구(European standardisation bodies)는 아직 구현 세부 사항을 확정하지 않았습니다.

50(3)조는 감정 인식(emotion recognition) 및 생체 인식 분류(biometric categorization)를 다룹니다. 해당 기능이 적용되고 있음을 사용자에게 알려야 합니다.

50(4)조는 딥페이크(deepfakes)를 다룹니다. 해당 콘텐츠가 인위적으로 생성되었음을 공개해야 합니다.

일반적인 SaaS를 위한 실질적인 번역은 짧습니다. 첫 번째 챗봇 상호작용 시 눈에 보이는 공지 하나. 귀사의 도구가 생성하는 모든 출력물에 AI 생성 배지(badge) 또는 메타데이터 플래그(metadata flag) 부착. 추론(inference), 학습 데이터 소스(training data sources) 및 보유 기간(retention)을 다루는 개인정보 처리방침(privacy notice) 문단 하나. 엔지니어링 노력은 적습니다. 병목 구간은 무엇을 작성해야 할지 아는 것입니다.

이번 주에 바로 실행할 수 있는 7단계 자체 감사

이 7단계는 집중적인 작업을 통해 2~3주 안에 대부분의 비고위험(non-high-risk) SaaS에 적용할 수 있습니다. 부속서 III(Annex III)에 해당하는 팀은 더 긴 시간과 외부 검토가 필요합니다.

제품 내의 모든 AI 기능을 인벤토리(Inventory)화 하세요. 챗봇(Chatbot), 임베딩 검색(embedding search), 추천(recommendations), 자동 완성(autocomplete), 요약(summarisation), 음성(voice) 등이 포함됩니다. 모든 내부 도구(internal tool)도 포함해야 합니다. 목록에 없는 것은 감사(audit)할 수 없습니다.
각 기능에 역할을 태그(Tag)로 지정하세요. 제공자(Provider), 배포자(Deployer), 또는 둘 다입니다. 기능별로 이를 기록해 두세요.
각 기능을 부속서 III(Annex III)에 따라 검토하세요. 카테고리별로 '예' 또는 '아니오'를 판단합니다. 하나라도 '예'가 있다면 해당 기능은 고위험(high-risk) 체제 대상이 됩니다.
각 기능을 제5조(Article 5)에 따라 검토하세요. 금지 사항별로 '예' 또는 '아니오'를 판단합니다. 해당되는 경우가 드물지만, 반드시 확인해야 합니다.
남은 각 기능을 제50조(Article 50)에 매핑하세요. 어떤 하위 규칙(sub-rule)이 적용되는지 확인하고, 귀사가 이행해야 할 공시(disclosure) 사항을 기록하세요.
모델 공급망(model supply chain)을 문서화하세요. 각 파운데이션 모델(foundation model)을 누가 제공하는지, 파인튜닝(fine-tune)을 수행하는지, 입력값과 출력값을 로그(log)로 남기는지 기록하세요. 제25조(Article 25)의 상속(inheritance)은 이 추적 경로(trail)에 달려 있습니다.
세 가지 문서를 작성하거나 업데이트하세요. 웹사이트에 게시할 공개 AI 사용 공시(public AI-use disclosure), 팀을 위한 내부 AI 정책(internal AI policy), 그리고 고위험군일 경우 제73조(Article 73) 보고를 위한 사고 대응 초안(incident-response stub)입니다.

외부의 도움을 받아야 하는 시점

외부의 도움을 받아야 하는 세 가지 트리거(trigger)가 있습니다.

부속서 III(Annex III)에 해당하면서, 이전에 컴플라이언스(compliance) 문서를 작성해 본 적이 없는 경우.
기업 고객 중 한 곳의 조달(procurement) 부서에서 AI 법(AI Act) 준수 증명(attestation)을 서면으로 요청한 경우.
파운데이션 모델(foundation model)을 파인튜닝(fine-tune)하며 제25조(Article 25)에 대한 의견(opinion)이 필요한 경우.

이 세 가지 경우를 제외하면, 업무는 내부적으로 수행 가능합니다. 법안은 방대하지만, 고위험이 아닌 SaaS에 대한 의무 사항은 한정적입니다.

Disclos가 기여하는 방식

우리는 SaaS를 위한 고정 범위 감사(fixed-scope audit)를 수행합니다. 997유로의 일회성 비용으로 영업일 기준 5일 이내에 규정 2024/1689의 모든 관련 조항에 대한 서면 보고서를 제공합니다. 보고서의 지침을 따랐음에도 2026년 8월 2일까지 귀사의 SaaS가 규정을 준수하지 못할 경우 환불해 드립니다. 자세한 내용은 disclos.eu에서 확인하세요.

이 체크리스트를 한 페이지짜리 PDF로만 받고 싶다면, gatis@disclos.eu로 이메일을 보내주세요. 당일 중으로 보내드리겠습니다.