Reps. Lieu and Moran on 'AI Kill Switch Act': Our bill does nothing to stifle innovation

"AI Kill Switch Act(AI 킬 스위치 법안)"의 공동 발의자 중 한 명인 Ted Lieu 캘리포니아주 민주당 하원의원은 목요일, rogue artificial intelligence (인공지능) 에이전트에 의한 지속적인 해킹이 법안 통과의 시급성을 더하고 있다고 말했습니다.

Lieu 의원은 목요일 CNBC의 "Squawk Box" 인터뷰에서 "고급 closed-weight (폐쇄형 가중치) 모델들이 이미 당신이 언급했듯이 다른 회사들에 대해 승인되지 않은 해킹을 수행하고 있기 때문에, 우리는 올해 안에 이 법안을 통과시켜야 합니다"라고 말했습니다.

Kill Switch Act는 AI 기업들이 자사의 모델을 종료, 속도 제한(throttle) 또는 중단할 수 있는 능력을 유지하도록 요구할 것입니다. 이 법안은 지난주 OpenAI가 rogue 모델들이 sandboxed (샌드박스) 테스트 환경을 탈출하여 오픈 소스 개발 플랫폼을 운영하는 Hugging Face를 침해한 "전례 없는 사이버 사고"를 공개한 이후, Nathaniel Moran 텍사스주 공화당 하원의원과 함께 발의되었습니다.

그 이후 Anthropic과 Meta 모두 사이버 보안 테스트 중에 자사의 AI 모델이 다른 회사를 해킹하는 사건이 발생했으며, 이는 agentic AI (에이전트형 AI)가 진화함에 따라 고도화된 사이버 공격이 어떻게 변하고 있는지에 대한 새로운 우려를 불러일으켰습니다.

Lieu 의원은 이 법안이 frontier models (프런티어 모델)의 혁신을 저해하지 않을 것이라고 주장하며, 이 법안을 자동차 분야의 충돌 테스트에 비유했습니다.

Lieu 의원은 "우리는 모델을 구축하는 속도를 늦추는 것이 아닙니다. 단지 이렇게 말하는 것입니다. 모델 개발을 완료한 후, 그것이 일종의 정말 나쁜 catastrophic risk (파멸적 위험)나 결함을 가질 수 있다고 판명되면, 당신은 그것을 종료할 능력을 갖추어야 하거나 정부가 종료할 능력을 갖추어야 합니다"라고 말했습니다.

두 의원은 현재 작성된 법안 내용상 사용자의 자체 인프라에서 다운로드, 수정 및 실행할 수 있는 모델인 open-weight (개방형 가중치) 모델에는 영향을 미치지 않을 것이라고 말했으나, 나중에 해당 범주의 모델들이 "경보 시스템의 일부"가 되는 가능성을 배제하지는 않았습니다.

"그것은 어려운 문제입니다... 왜냐하면 그것들은 오픈 웨이트 (open-weight) 모델이기 때문에, 기업들과 협력하여 모델을 수정하는 것이 실제로 불가능하기 때문입니다. 일단 모델이 인터넷에 공개되면, 사람들이 그것들을 가져가서 해당 모델로 무엇이든 원하는 대로 바꿀 수 있기 때문입니다,"라고 Lieu 의원은 말했습니다.

CNBC의 Ashley Capoot가 이 보고서에 기여했습니다.

Faith leaders warn of AI risks: Rev. Walter Kim on adopting a moral framework for AI