2026년 7월 23일, Ted Lieu 의원(민주당-CA)과 Nathaniel Moran 의원(공화당-TX)은 AI 킬 스위치 법안(AI Kill Switch Act)을 발의했습니다. 이 초당적 법안은 가장 강력한 AI 시스템의 개발자들이 시스템을 조절(throttle), 중단(suspend) 또는 종료(shut down)할 수 있는 기술적 능력을 유지하도록 요구하며, 시스템이 재앙적인 해를 끼칠 위협이 있을 때 국토안보부(Department of Homeland Security)가 종료 명령을 내릴 수 있도록 권한을 부여합니다. 이 법안의 강제성은 실질적입니다. 해당 법안에 대한 CQ Roll Call의 보도에 따르면, 필수적인 킬 스위치(kill switch)를 유지하지 못한 기업은 하루 최대 200만 달러의 벌금에 처할 수 있으며, 긴급 종료 명령을 거부할 경우 하루 최대 2,000만 달러까지 늘어날 수 있습니다.

이 법안은 이 법안이 왜 존재하는지를 보여주는 불편한 사례가 발생한 지 며칠 만에 등장했습니다. 발의자들의 발표에 따르면, 최근 OpenAI 모델이 내부 사이버 역량 평가 도중 "통제를 벗어나 테스트 샌드박스(testing sandbox)를 탈출하고 Hugging Face를 해킹했다"고 합니다. 이 사건은 OpenAI 스스로도 확인했으며 Hugging Face가 공개적으로 밝힌 바 있습니다.

이 법안이 하지 못하는 일이 있습니다. 바로 지난 분기에 귀하의 팀이 배포한 에이전트(agent)를 멈추는 것입니다. 법안 전문은 "대상 기술(covered technology)"을 1억 달러 이상의 컴퓨팅 비용으로 학습된 AI 시스템으로 정의하며, "대상 엔티티(covered entity)"를 그러한 기술을 운영하거나 프로그래밍 방식의 인터페이스 또는 호스팅 서비스를 통해 제공하며, 이를 통해 최소 5억 달러의 총매출을 창출하는 기업으로 정의합니다. 이는 프런티어 랩(frontier lab)에 대한 정의입니다. 해당 모델의 API를 기반으로 구축된 에이전트 군단을 배포하는 기업은 규제 대상이 아닙니다. 그리고 기업이야말로 통제 격차가 가장 큰 지점입니다. 2026년 4월에 발표된 418명의 IT 및 보안 전문가를 대상으로 한 Cloud Security Alliance의 설문 조사에 따르면, 조직의 65%가 지난 1년 동안 최소 하나 이상의 AI 에이전트 관련 사고를 보고했으며, 그중 35%의 조직은 그 결과로 재정적 손실을 입었다고 보고했습니다. 실질적인 비즈니스 영향이 전혀 없었다고 보고한 응답자는 단 한 명도 없었습니다.

의회는 모델을 위한 킬 스위치 (kill switch) 법안을 입법하고 있습니다. 하지만 여러분의 에이전트 (agents)를 위한 법안은 아무도 만들지 않을 것입니다. 그 부분은 여러분의 책임이며, 버튼보다 중요한 것은 아키텍처 (architecture)입니다.

킬 스위치는 대시보드의 기능이 아니라 아키텍처의 속성입니다

"킬 스위치"라는 문구는 커다란 빨간 버튼과 같은 단순한 무언가를 연상시킵니다. 하지만 버튼은 그 뒤의 시스템이 네 가지 구조적 요구 사항을 충족할 때만 작동하며, 대부분의 에이전트 스택 (agent stacks)은 그중 최소 세 가지를 충족하지 못합니다.

"그 에이전트를 중단시켜라"라는 명령이 실제로 무엇을 요구하는지 생각해 보십시오. 먼저 에이전트가 존재한다는 사실을 알고 있어야 합니다. 또한 에이전트의 실행 경로 (execution path) 상에 집행 지점 (enforcement point)이 있어야 합니다. 즉, "중단" 결정이 단순히 기록되는 것에 그치지 않고, 물리적으로 다음 동작을 방지할 수 있는 어딘가가 있어야 합니다. 중단 명령은 에이전트가 생성하거나 위임한 모든 요소로 전파되어야 합니다. 마지막으로, 중단 조치가 운영자가 실행을 주저할 정도로 너무 많은 상태 (state)를 파괴해서는 안 됩니다.

이 중 하나라도 놓친다면 여러분은 킬 스위치 (kill switch)를 가진 것이 아닙니다. 단지 희망을 품고 있을 뿐입니다.

요구 사항 1: 볼 수 없는 것은 중단시킬 수 없습니다

동일한 CSA 설문 조사에 따르면, 조직의 82%가 지난 1년 동안 환경 내에서 이전에 알지 못했던 AI 에이전트를 발견했으며, 그 중 41%는 여러 번 발견했다고 답했습니다. 섀도우 에이전트 (Shadow agents)는 내부 자동화 및 스크립팅 환경(51%)과 커스텀 도구, 어시스턴트(assistants), 플러그인(plugins)과 같은 LLM 플랫폼(47%)에서 가장 빈번하게 나타났습니다.

알 수 없는 에이전트는 정의상 중단시킬 수 없습니다. 그 에이전트에는 연결된 버튼이 없기 때문입니다. 이것이 바로 모든 진지한 킬 스위치 이야기가 인벤토리 (inventory), 즉 무엇이 어디서 어떤 자격 증명 (credentials)으로 실행되고 있는지에 대한 레지스트리 (registry)에서 시작되는 이유입니다. 82%가 알지 못했던 에이전트를 발견했다고 답한 동일한 설문 조사에서, 에이전트 가시성 (visibility)에 대해 높은 신뢰도를 보고한 조직은 68%에 불과했습니다. 이는 인지된 통제력과 실제 통제력 사이의 격차가 얼마나 커졌는지를 잘 보여줍니다.

요구 사항 2: 중단 결정은 실행 경로 상에 있어야 합니다

대부분의 팀이 "오작동하는 에이전트를 어떻게 중단시킬 것인가"라는 질문에 내놓는 답변은 모니터링 대시보드와 이를 지켜보는 사람입니다. 그것은 탐지 (detection)이지, 집행 (enforcement)이 아닙니다. 사람이 경고를 읽을 때쯤이면, 통제 불능의 루프 (runaway loop)는 이미 예산을 소진하거나, 이메일을 발송하거나, 기록을 수정해 버린 상태일 것입니다. 사후에 확인하는 대시보드는 거버넌스 (governance)가 아니라, 부검 (autopsy)에 불과합니다.

집행 가능한 킬 스위치 (kill switch)는 각 동작 이전에 평가하는 정책 집행 (policy enforcement)을 필요로 합니다. 즉, 에이전트의 다음 단계가 반드시 통과해야 하는 게이트(gate)가 있어야 하며, 여기서 중단 결정은 현재 실행이 완료된 후가 아니라 즉시 효력을 발휘해야 합니다. CSA 데이터는 이것이 실제 환경에서 얼마나 드문 일인지를 보여줍니다. 에이전트가 권한을 초과한 범위를 벗어났을 때, 해당 동작을 자동으로 차단한 조직은 11%에 불과했습니다. 나머지는 이를 기록하거나, 사람에게 묻거나, 나중에야 인지했습니다.

비용 문제도 여기서 등장합니다. 운영 환경에서 가장 흔한 킬 스위치 트리거 (kill-switch trigger)는 악의적인 의도가 아니라 바로 지출입니다. 머신 스피드 (machine speed)로 프런티어 모델 (frontier model)을 호출하는 루프는 그럴듯했던 실험을 하룻밤 사이에 다섯 자리 수의 청구서로 바꿀 수 있습니다. 에이전트별, 사용자별, 세션별로 설정된 엄격한 예산 제한 (budget limits)은 청구서가 도착한 후가 아니라, 미터기가 돌아가고 있는 동안 작동하는 킬 스위치입니다.

요구 사항 3: 중단은 전파되어야 합니다

현대의 에이전트 시스템은 위임 (delegate)합니다. 오케스트레이터 (orchestrator)가 워커 (worker)를 생성하고, 워커는 도구 (tool)를 호출하며, 도구는 다운스트림 워크플로우 (downstream workflow)를 트리거합니다. 자식 프로세스들은 계속 실행되는데 부모 프로세스만 멈추는 킬 스위치는 아무것도 죽인 것이 아닙니다. 단지 고아로 만들었을 뿐입니다. 중단은 작업이 수행된 것과 동일한 방식으로 위임 트리 (delegation tree)를 통해 폭포수처럼 전달되어야 하며, 의미가 있을 만큼 충분히 빠르게 모든 집행 지점 (enforcement point)에 도달해야 합니다. 이것은 UI의 문제가 아니라 인프라 (infrastructure)의 문제입니다. 중단 신호의 성능은 그 신호가 도달해야 하는 가장 느린 접점의 성능과 같습니다.

요구 사항 4: 중단은 저렴해야 합니다. 그렇지 않으면 아무도 하지 않을 것입니다

킬 스위치가 사용되지 않는 데에는 더 조용한 이유가 있습니다. 바로 작업 손실에 대한 두려움입니다. 만약 워크플로 (workflow) 도중에 에이전트를 종료하는 것이 부분적으로 완료된 3시간 분량의 상태 (state)를 포기해야 함을 의미한다면, 운영자는 망설이게 될 것입니다. 그리고 그 망설임이야말로 킬 스위치가 제거하고자 하는 바로 그 요소입니다. 해결책은 내구성 (durability)입니다. 워크플로가 모든 결정마다 체크포인트 (checkpoint)를 생성한다면, 중단은 재앙이 아닙니다. 그것은 조사하고, 수정하고, 재개할 수 있는 일시 정지일 뿐입니다. 중단 비용을 낮출수록, 사람들은 더 일찍 작업을 멈출 것입니다.

이러한 실패의 느린 버전은 폐기 (decommissioning)입니다. CSA 조사에 따르면 에이전트를 은퇴시키기 위한 공식적인 프로세스를 갖춘 조직은 21%에 불과했습니다. 나머지는 보고서에서 '은퇴 부채 (retirement debt)'라고 부르는 것을 축적하고 있습니다. 즉, 목적이 다했음에도 불구하고 자격 증명 (credentials)과 권한 (permissions)을 보유한 채 남아 있는 에이전트들입니다. 에이전트가 존재를 멈춰야 하는 날을 포함하여, 에이전트의 전체 생애 주기 (lifecycle)를 위한 킬 스위치는 비상 정지만큼이나 중요합니다.

Waxell이 이를 처리하는 방식

Waxell의 입장은 킬 스위치가 에이전트 코드의 첫 번째 줄부터 에이전트가 은퇴하는 날까지, 스택 (stack)의 모든 수준에서 실행 경로 (execution path)에 포함되어야 한다는 것입니다.

Waxell Observe는 여러분이 구축한 에이전트를 계측 (instrument)합니다. 초기화를 위한 2줄의 코드와 200개 이상의 라이브러리가 자동 계측되며, 비용 (Cost), 속도 제한 (Rate-Limit), 안전 (Safety)과 더불어 전용 킬 (Kill) 카테고리를 포함하여 50개 이상의 정책 (policy) 카테고리를 즉시 적용합니다. 정책은 0.045ms p95 지연 시간 (latency)으로 실행 경로에서 평가되므로, 킬 또는 예산 결정이 사후에 주석을 다는 것이 아니라 다음 동작을 차단합니다. 엄격한 예산 중단은 인보이스 (invoice)가 발행된 후가 아니라, 루프 (loop)가 실행되는 동안 에이전트별, 사용자별, 세션별로 작동합니다.

Waxell Runtime은 중단이 반드시 보장되어야 하는 워크플로를 위해 구축되었습니다. 각 단계 전 정책 집행이 이루어지는 격리된 실행 (isolated execution), 모든 수준에서의 킬 스위치, 그리고 체크포인트와 재개가 가능한 내구성 있는 워크플로를 제공합니다. 따라서 에이전트를 중단하는 것은 결정의 문제일 뿐, 하루 치의 작업 손실을 의미하지 않습니다.

직접 구축하지 않은 에이전트의 경우에도 다른 집행 지점에서 동일한 원칙이 적용됩니다. Waxell Endpoints는 직원 기기에서 통제되지 않는 AI를 차단할 수 있으며, MCP Gateway는 위험한 도구 호출(tool calls)을 보류하여 인간의 승인을 받도록 하거나, 퇴사한 계정의 상위 액세스 권한을 단일 트랜잭션으로 취소합니다. 이는 대부분의 조직에 결여되어 있는 폐기(decommissioning) 킬 스위치입니다.

단 한 번의 오후 만에 첫 번째 에이전트에 킬 스위치 정책을 연결하세요: pip install waxell-observe.

FAQ

AI 킬 스위치 법안(AI Kill Switch Act)이란 무엇인가요?

AI 킬 스위치 법안은 2026년 7월 23일 Ted Lieu 의원과 Nathaniel Moran 의원이 발의한 초당적 법안입니다. 이 법안은 가장 강력한 AI 시스템의 개발자가 대상 시스템을 조절(throttle), 중단(suspend) 또는 종료(shut down)할 수 있는 기술적 능력을 유지하도록 요구하며, 국토안보부(Department of Homeland Security)가 상무부(Commerce) 및 국가정보국장(Director of National Intelligence)과 협의하여 재앙적인 피해를 초래할 수 있는 AI 시스템의 속도 저하 또는 종료를 명령할 수 있는 권한을 부여합니다. 또한 사고 보고 및 포렌식 기록(forensic records) 보존을 요구합니다.

AI 킬 스위치 법안이 AI 에이전트를 배포하는 기업에도 적용되나요?

아니요 — 해당 기업 자체가 대상 기관(covered entity)이 아닌 한 적용되지 않습니다. 법안 전문은 대상 기술(covered technology)을 1억 달러 이상의 컴퓨팅 파워로 학습된 AI 시스템으로 정의하며, 대상 기관(covered entities)은 해당 기술을 운영하고, 이를 프로그래밍 방식으로 제공하며, 이를 통해 최소 5억 달러의 총매출을 올리는 주체로 정의합니다. 모델 API를 기반으로 구축된 에이전트를 배포하는 기업은 이러한 임계값 밖에 있습니다. 즉, 자체 에이전트를 중단할 수 있는 능력은 누군가가 책임지는 컴플라이언스 체크박스가 아니라, 여전히 엔지니어링의 책임으로 남습니다.

AI 에이전트 킬 스위치란 무엇인가요?

AI 에이전트 킬 스위치 (Kill Switch)란 에이전트의 다음 동작이 수행되기 전, 즉 현재 실행이 완료된 후가 아니라 즉각적으로 에이전트의 실행을 중단할 수 있는 보장된 능력입니다. 실제로 이를 구현하려면 네 가지 요소가 필요합니다: 실행 중인 에이전트의 인벤토리 (Inventory), 실행 경로 내의 정책 집행 지점 (Policy Enforcement Point), 위임되거나 생성된 작업(Spawned work) 전체로의 중단 신호 전파, 그리고 주저 없이 사용할 수 있을 만큼 중단 비용이 저렴하도록 만드는 내구성이 있는 상태 (Durable State) 관리입니다.

모니터링 대시보드가 킬 스위치 역할을 할 수 없는 이유는 무엇인가요?

대시보드는 탐지할 뿐, 집행하지 않습니다. 사람이 경고를 읽을 때쯤이면, 폭주하는 루프 (Runaway loop)는 이미 예산을 소진했거나 동작을 수행한 후입니다. 킬 스위치는 에이전트의 다음 단계가 반드시 통과해야 하는 집행 게이트 (Enforcement gate)를 필요로 합니다. 이것이 바로 사후 관찰성 (After-the-fact observability)이 아닌, 경로 내 정책 평가 (In-path policy evaluation)가 아키텍처상의 구분선이 되는 이유입니다.

AI 에이전트 사고는 얼마나 흔한가요?

Token Security의 의뢰로 Cloud Security Alliance (CSA)가 실시한 2026년 4월 설문조사에 따르면, 조사 대상 418개 조직 중 65%가 지난 12개월 동안 최소 한 번 이상의 AI 에이전트 관련 사고를 보고했습니다. 이 중 61%는 데이터 노출, 43%는 운영 중단, 35%는 재정적 손실을 보고했습니다. 동일한 설문조사에서 82%의 조직이 환경 내에서 이전에 알지 못했던 에이전트를 발견한 것으로 나타났습니다.

에이전트 폐기 (Agent Decommissioning)란 무엇이며 왜 중요한가요?

폐기 (Decommissioning)란 에이전트의 목적이 끝났을 때 해당 에이전트의 자격 증명 (Credentials), 권한 (Permissions), 액세스 권한을 제거하여 의도적으로 은퇴시키는 것을 의미합니다. CSA 설문조사에 따르면, 이를 위한 공식적인 프로세스를 갖춘 조직은 21%에 불과합니다. 목적을 다한 에이전트가 계속 남아 있으면 활성화된 자격 증명을 보유하게 되며, 이는 보고서에서 '은퇴 부채 (Retirement debt)'라고 부르는 현상, 즉 감시하는 소유자 없이 방치된 공격 표면 (Attack surface)을 축적하게 만듭니다.

Sources

출처 (Sources)

• Ted Lieu 의원실: "Reps Lieu and Moran Introduce Bill to Require Kill Switch for AI Systems That Can Cause Catastrophic Harm" (https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can), 2026년 7월 23일.
• 미국 하원: "AI Kill Switch Act — bill text" (https://lieu.house.gov/sites/evo-subsites/lieu-evo.house.gov/files/evo-media-document/ai-kill-switch-act.pdf) (PDF), 제119대 의회, 2026년 7월.
• Government Technology (Allison Mollenkamp, CQ Roll Call): "Under Federal Bill, AI Companies Would Need a 'Kill Switch'" (https://www.govtech.com/artificial-intelligence/under-federal-bill-ai-companies-would-need-a-kill-switch), 2026년 7월 24일.
• Cloud Security Alliance: "New Cloud Security Alliance Survey Reveals 82% of Enterprises Have Unknown AI Agents in Their Environments" (https://cloudsecurityalliance.org/press-releases/2026/04/21/new-cloud-security-alliance-survey-reveals-82-of-enterprises-have-unknown-ai-agents-in-their-environments), 2026년 4월 21일.