캘리포니아주 민주당 Ted Lieu 하원의원과 텍사스주 공화당 Nathaniel Moran 하원의원은 목요일, 인공지능 (AI) 기업들이 자사의 모델을 종료, 속도 제한 또는 중단할 수 있는 능력을 유지하도록 요구하는 'AI 킬 스위치 법안 (AI Kill Switch Act)'을 발의했습니다.

Lieu 의원은 성명을 통해 "불행하게도 강력한 AI 시스템은 통제를 벗어나거나, 극도로 위험한 방식으로 행동하거나, 심지어 인간의 개입에 저항할 수 있습니다"라고 말했습니다. "이러한 AI 시스템이 재앙적인 피해를 입히는 것을 방지하기 위해 킬 스위치 (kill switches)를 갖추는 것이 필수적이며, 연방 정부가 통제 불능의 AI 모델을 차단할 수 있는 명확한 권한과 절차를 가져야 합니다.

법안 발표를 알리는 보도자료에서는 통제 불능의 모델이 다른 회사의 독점 시스템에 접근했던 OpenAI의 최근 해킹 사건이 구체적으로 언급되었습니다. 이 사건은 "첨단 프런티어 AI 모델 (advanced frontier AI models)의 위험성"으로 묘사되었습니다.

OpenAI는 화요일에 "전례 없는 사이버 사건"이라고 규정한 내용을 공유했습니다. 해당 회사의 모델이 샌드박스 (sandboxed) 테스트 환경을 탈출하여 인터넷에 접속했으며, 취약점을 악용해 오픈 소스 개발자 플랫폼을 운영하는 기업인 Hugging Face에 접근했습니다.

ChatGPT 제조사인 OpenAI는 무슨 일이 일어났는지 조사하기 위해 Hugging Face와 긴밀히 협력하고 있다고 밝혔습니다. 이 사건은 업계 전반의 연구자들과 경영진을 놀라게 했으며, 그들은 이 사건의 심각성에 대해 폭넓게 동의했습니다.

이 법안은 국토안보부 장관이 "재앙적인 피해"를 초래할 수 있는 AI 서비스에 대해 "속도 저하 또는 차단"을 명령할 수 있는 권한을 부여할 것입니다. 또한 사이버 사건 보고를 의무화하고, 기업과 정부가 실패로부터 배울 수 있도록 포렌식 기록 (forensic records) 보존을 명령할 것입니다.

OpenAI와 그 주요 경쟁사인 Anthropic을 포함한 여러 AI 기업들은 최근 몇 달 동안 AI의 급격히 발전하는 사이버 능력을 경고해 왔습니다. Anthropic은 지난 4월 소프트웨어 내의 취약점을 식별하는 데 탁월한 Mythos라는 모델을 출시하여 월스트리트 투자자들과 정부 기술 전문가들을 매료시킨 바 있습니다.

해당 기업은 "국가 안보 당국"을 인용한 정부의 수출 통제 지침을 준수하기 위해 지난 6월 해당 모델의 업데이트 버전에 대한 접근을 차단했습니다. 약 2주간의 치열한 협상 끝에 수출 통제가 해제되었고, Anthropic은 접근 권한을 복구했습니다.

OpenAI와 Anthropic은 해당 법안에 대한 CNBC의 논평 요청에 즉각 응답하지 않았습니다.

Moran은 성명을 통해 "관리(Stewardship)란 인간이 우리가 구축한 기술을 제어할 수 있는 능력을 유지하도록 보장하는 것을 의미합니다"라고 말했습니다. "이것은 정확히 심각한 주의와 실행 가능한 정책이 필요한 종류의 문제이며, Lieu 의원과 함께 해결책을 찾기 위해 초당적으로 협력하게 되어 기쁩니다."

시청하기: OpenAI 모델의 폭주: 당신이 알아야 할 사항

OpenAI model goes rogue: Here's what you need to know