EU AI Act 집행이 8월 2일에 시작됩니다. 당신의 에이전트를 누가 관리하고 있습니까?

Empire Labs Security Division 작성
발행일: 2026년 8월 2일

요약(TL;DR) — EU AI Act의 고위험(high-risk) 규정이 오늘부터 활성화됩니다. 이 규정들은 자율 AI 에이전트(autonomous AI agents)를 위해 작성된 것이 아닙니다. 하지만 당신의 에이전트들은 어쨌든 이 규정의 적용을 받습니다. 당신이 알아야 할 사항, 증명해야 할 사항, 그리고 자격 증명 중개(credential-brokered) 집행이 어떻게 거버넌스(governance) 격차를 메우는지에 대해 설명합니다.

오늘, 모든 것이 변합니다

2026년 8월 2일. EU AI Act의 고위험 적합성 요건(high-risk conformity requirements)이 이제 집행 가능해졌습니다. 제9조(위험 관리 (Risk Management)), 제14조(인간 감독 (Human Oversight)), 그리고 제43조(적합성 평가 (Conformity Assessment))가 발효되었습니다.

만약 당신의 조직이 AI 에이전트를 배포하고 있으며, 당신의 에이전트가 결과가 수반되는 행동을 수행한다면, 이 조항들은 지금 당장 당신에게 적용됩니다.

이 법안이 만들어내는 문제는 다음과 같습니다:

EU AI Act는 자율 에이전트(autonomous agents)가 존재하기 전에 작성되었습니다.

이 법안은 "에이전트 시스템(agentic systems)"을 정의하지 않습니다. 도구 호출(tool-calling) 에이전트에 대해서도 다루지 않습니다. 분산된 에이전트 함대(agent fleets) 전반에서 밀리초 단위로 결정이 내려질 때 인간의 감독(human oversight)이 어떻게 작동해야 하는지도 명시하지 않습니다.

그럼에도 불구하고, 준수(compliance)는 오늘부터 요구됩니다.

중요한 수치들

에이전트 배포 속도와 거버넌스(governance) 역량 사이의 격차는 점점 벌어지고 있습니다. 그리고 오늘, 규제의 시계가 돌아가기 시작했습니다.

EU AI Act가 에이전트에게 실제로 요구하는 사항

제9조 — 위험 관리 (Risk Management)

당신은 AI 시스템의 "전체 수명 주기 동안 지속적이고 반복적인 위험 관리"를 입증해야 합니다. 에이전트의 경우, 이는 다음을 의미합니다:

• 당신의 에이전트가 어떤 위험을 생성하는지 **식별(identify)**해야 합니다.
• 기술적 통제(technical controls)를 통해 해당 위험을 **완화(mitigate)**해야 합니다.
• 통제 수단이 효과적이었음을 단순히 문서화하는 것이 아니라 **증명(prove)**해야 합니다.

제14조 — 인간 감독 (Human Oversight)

당신의 고위험 AI 시스템은 "자연인에 의한 효과적인 감독(effective oversight by natural persons)"을 지원해야 합니다. 에이전트의 경우, 이는 다음을 의미합니다:

• 인간은 에이전트가 무엇을 하고 있는지 **이해(understand)**할 수 있어야 합니다.
• 인간은 에이전트를 **무시하거나 중단(override or stop)**할 수 있어야 합니다.
• 시스템은 이에 상응하는 "중단 버튼(stop button)" 기능을 지원해야 합니다.
• 감독은 **위험도에 비례(proportionate to the risk)**해야 합니다.

제43조 — 적합성 평가 (Conformity Assessment)

고위험 시스템을 시장에 출시하기 전에 반드시 적합성 평가를 거쳐야 합니다. 에이전트의 경우, 이는 다음을 의미합니다:

• 모든 에이전트 작업에 대한 **검증 가능한 감사 추적(verifiable audit trail)**이 필요합니다.
• 제8조~제15조에 대한 **준수 사항을 입증(demonstrate compliance)**해야 합니다.
• 규제 기관의 조사(regulatory scrutiny)를 견뎌낼 수 있는 증거가 필요합니다.

문제점: 준비된 곳이 아무도 없다

NSA는 2026년 6월, 에이전트 통신 프로토콜에서 발견된 8가지 치명적인 격차를 식별한 MCP 보안 가이드를 발표했습니다. 인증(Authentication) 없음. 역할 기반 액세스 제어(RBAC) 없음. 토큰 수명 주기(Token lifecycle) 없음. 승인 워크플로우(Approval workflows) 없음.

Cloud Security Alliance의 2026년 4월 연구 노트에 따르면, 기업 CISO의 92%가 자신의 에이전트를 볼 수 없으며, 95%는 침해된 에이전트를 격리할 수 없다고 답했습니다.

NIST의 첫 번째 에이전트 전용 표준은? 빨라야 2026년 4분기 이전에는 나올 것으로 예상되지 않습니다.

ISO/IEC 42001은? 자율 에이전트가 존재하기 전에 설계되었습니다. 이 표준의 계획-실행-점검-조치(Plan-Do-Check-Act) 구조는 실시간 에이전트 정책 집행(policy enforcement)을 다루지 못합니다.

규제 프레임워크는 존재합니다. 하지만 거버넌스 인프라는 존재하지 않습니다.

가교: 자격 증명 중개 집행 (Credential-Brokered Enforcement)

에이전트 거버넌스에는 근본적인 아키텍처적 선택지가 있습니다: 감시할 것인가, 아니면 방지할 것인가(watch or prevent).

대부분의 솔루션은 감시합니다. 에이전트 트래픽을 프록시(proxy)하고, 프롬프트를 검사하며, 상호작용을 기록합니다. 유용하긴 하지만, 근본적인 보안 모델을 바꾸지는 못합니다. 침해된 에이전트는 여전히 당신의 키(keys)를 보유하고 있습니다. 감사자는 여전히 당신의 로그를 신뢰해야만 합니다.

또 다른 접근 방식이 있습니다: 자격 증명 중개 집행(credential-brokered enforcement).

이 모델에서는 에이전트가 목적지에 대한 자격 증명(credentials)을 절대 보유하지 않습니다. 모든 자격 증명은 게이트웨이 금고(gateway vault)에 저장됩니다. 모든 작업은 게이트웨이를 통해 중재됩니다. 즉, 사후에 검사하는 것이 아니라 실행 전에 구조적으로 집행됩니다.

그 차이점은 다음과 같습니다:

이것은 에이전트가 제대로 행동하기를 바라는 것과, 에이전트가 범위를 벗어나 행동할 수 없음을 확신하는 것 사이의 구조적 (Architectural) 차이입니다.

자격 증명 중개 기반 집행 (Credential-Brokered Enforcement) 시의 컴플라이언스 (Compliance) 모습

제9조 (위험 관리, Risk Management) 관련

모든 에이전트 작업은 해시 체인(Hash-chained)된 증거 영수증을 생성합니다. 위험 식별은 증거 체인의 패턴 분석이 됩니다. 위험 완화는 게이트웨이에서의 정책 집행(Policy enforcement)이 되며, 이는 서명되고, 버전이 관리되며, 감사가 가능합니다. 사후 시장 모니터링(Post-market monitoring)은 지속적인 체인 검증이 됩니다.

증거: Merkle 체크포인팅(Checkpointing)을 포함한 E2 등급의 해시 체인 작업 시퀀스.

제14조 (인적 감독, Human Oversight) 관련

인간의 승인 없이는 어떤 작업도 실행되지 않습니다. 이때 승인은 특정 작업 내용의 SHA-256 해시 값에 결합됩니다. 작업의 범주(Class)나 템플릿이 아닙니다. 인간이 승인한 바로 그 내용입니다. 내용이 단 한 글자라도 바뀌면 승인은 무효화됩니다.

증거: 인간의 승인이 실행에 결합됨을 보여주는 E1 등급의 서명된 이벤트 기록.

제43조 (적합성 평가, Conformity Assessment) 관련

모든 작업, 모든 정책 평가, 모든 인적 감독 이벤트를 포함한 전체 증거 체인은 암호학적으로 연결되어 있으며, 독립적으로 검증 가능하고, RFC 3161 타임스탬프가 찍혀 있습니다. 적합성 평가사(Conformity assessor)는 운영자, 에이전트, 또는 게이트웨이 제공자를 신뢰하지 않고도 전체 체인을 검증할 수 있습니다.

증거: 규제 기관 제출에 적합한 E4 등급의 교차 인증된 증거 인증서.

오픈 표준 계층 (The Open Standards Layer)

자격 증명 중개 모델은 인프라입니다. 이 모델이 강제하는 표준들은 공개되어 있습니다.

• ACI — 기계 판독 가능한 에이전트 매니페스트 (공개, Apache 2.0)
• AIP — 에이전트 간 협상 및 상거래 프로토콜 (공개)
• AJSON — 스키마 강제 기능이 포함된 에이전트 통신 형식 (공개)

이러한 표준은 거버넌스 계층 (governance layer)이 종속성 (lock-in)을 발생시키지 않음을 의미합니다. 이 표준을 기반으로 구축된 에이전트들은 규정을 준수하는 어떤 게이트웨이 (gateway)에 의해서도 관리될 수 있습니다. 거버넌스 모델은 설계 단계부터 상호 운용성 (interoperable)을 갖추고 있습니다.

시간은 흐르고 있습니다

오늘, 2026년 8월 2일, EU AI Act가 시행됩니다. NSA는 가이드라인을 발표했습니다. 시장은 통합되고 있습니다 — Palo Alto가 Protect AI를 인수했고, Cisco는 Robust Intelligence를, SentinelOne은 Prompt Security를 인수했습니다.

에이전트 배포 (deployment)와 에이전트 거버넌스 (governance) 사이의 간극은 현재 기업용 AI (enterprise AI) 분야에서 가장 시급한 인프라 문제입니다.

단순히 감시하는 솔루션만으로는 충분하지 않을 것입니다. 규제 기관은 증거를 원합니다. NSA는 구조적 통제 (structural controls)를 원합니다. 시장은 아직 존재하지 않는 카테고리를 원하고 있습니다.

자격 증명 중개 집행 (Credential-brokered enforcement)이 바로 그 카테고리입니다.

에이전트는 아무것도 보유하지 않습니다.
게이트웨이가 모든 것을 보유합니다.
증거는 체인 (chain) 위에 있습니다.

귀하의 벤더에게 물어보십시오: 현재 귀하의 에이전트 자격 증명 (credentials)은 어디에 있습니까?

Empire Labs는 자율 에이전트 거버넌스 (autonomous agent governance)를 위한 공개 표준을 구축합니다. 우리의 컴플라이언스 팩 (compliance pack)은 이러한 표준을 NSA, EU AI Act, NIST, 그리고 Singapore AI Verify와 같은 규제 프레임워크 (regulatory frameworks)에 매핑합니다.

Empire Labs Pty Ltd — 보안 부문 (Security Division)