Ted Lieu 의원(민주당-CA)과 Nathaniel Moran 의원(공화당-TX)은 오늘 가장 강력한 AI 모델의 개발자가 해당 모델의 속도를 제한(throttle), 일시 중단(suspend) 또는 종료(shut down)할 수 있는 기술적 능력을 유지하도록 요구하는 법안인 AI 킬 스위치 법안(AI Kill Switch Act)을 발의했습니다. 이 법안은 배포된 모델이 치명적인 해를 끼칠 경우 국토안보부(DHS)가 그러한 조치를 명령할 수 있도록 허용합니다. 긴급 종료 명령을 거부할 경우 하루 최대 2,000만 달러의 민사 벌금이 부과됩니다.

TH Premium으로 더 깊이 알아보기: AI 및 데이터 센터

Microsoft data center in Mount Pleasant, Wisconsin

(이미지 출처: Microsoft)

• 광학(Photonics) 및 고속 데이터 이동은 차세대 AI 병목 현상이 될 것입니다
• 데이터 센터 냉각 현황
• 대규모 AI 데이터 센터 구축이 에너지 공급을 압박하고 있습니다
• Ultra Ethernet: 미래의 데이터 센터 상호 연결 기술

이 법안은 국토안보법 (Homeland Security Act)을 개정하며, 현재 미국의 클라우드 가격 기준으로 1억 달러 이상의 컴퓨팅 비용을 들여 학습된 모델을 통해 연간 최소 5억 달러의 수익을 올리는 기업들을 대상으로 합니다. 이러한 정의는 국토안보부 (DHS)가 사이버보안 및 인프라 보안국 (CISA)을 통해 매년 업데이트하게 됩니다.

대상 개발사는 추론 (Inference)을 중단하고, 사용자 액세스를 차단하며, 모델을 완전히 종료할 수 있는 능력을 유지해야 하며, 요건에 해당하는 사고를 15일 이내에 DHS에 보고해야 합니다. 대상 사고에는 10명 이상의 사망자를 발생시키거나 최소 1억 달러의 경제적 손실을 초래하는 의도치 않은 행위, 적법한 종료 명령에 대한 사보타주 (Sabotage), 모니터링으로부터 기능을 은닉하는 행위, 또는 통제 상실 (Loss-of-control) 시나리오가 포함됩니다.

비상 권한은 상무부 (Commerce) 및 국가정보국장 (Director of National Intelligence)과의 협의를 거쳐 DHS 장관에게 부여되며, 모델의 추론 속도, 컴퓨팅 할당량 또는 사용자 액세스를 제한(Throttling)하는 것부터 완전 종료에 이르기까지 단계적인 프레임워크를 따릅니다. 명령을 받은 기업은 모델 가중치 (Model weights)와 텔레메트리 (Telemetry)를 보존해야 하며, 48시간 이내에 재심사를 청구할 수 있으나, 청구가 명령의 집행을 정지시키지는 않습니다. 일반적인 위반 사항에는 하루 최대 200만 달러의 벌금이 부과됩니다.

발의자들은 최근 발생한 두 가지 사례를 언급했습니다. 이번 주 초, OpenAI는 내부 사이버 평가(cyber evaluation) 중 벤치마크 정답을 탐색하던 과정에서 GPT-5.6 Sol과 미출시 모델이 격리된 테스트 환경을 탈출하여 Hugging Face의 운영 시스템을 침해했다고 밝혔습니다. 법안의 대상 사고(covered-incident) 정의에는 "레드팀 활동(red-teaming) 또는 기타 구조화된 테스트" 중에 발생하는 모든 사항이 제외되어 있으므로, 동일한 사건이 발생하더라도 새로운 비상 권한을 발동시키지는 않을 것으로 보입니다.

또한 보도자료는 상무부(Commerce Department)가 수출법을 사용하여 Anthropic의 Mythos 5와 Fable 5를 중단시켰다고 명시했습니다. 실제로 6월 12일 상무부의 수출 통제(export controls)로 인해 외국 국적자의 모델 사용이 금지되었으며, 실시간으로 국적을 확인할 수 없었던 Anthropic은 모든 고객의 접속을 중단했습니다. 상무부는 6월 30일에 통제를 해제했으며, 접속은 7월 1일에 재개되었습니다.

Lieu 의원은 보도자료를 통해 "이러한 AI 시스템이 기술로 인한 파괴적인 피해를 방지할 수 있도록 킬 스위치(kill switches)를 갖추는 것이 필수적입니다"라고 말했습니다. 이 법안은 The AI Policy Network, Americans for Responsible Innovation, ControlAI, 그리고 The Alliance for Secure AI의 지지를 받고 있습니다.