U of T 연구진, 모든 온라인 기기를 표적으로 삼을 수 있는 AI 웜(worm) 시연

연구원 Nicolas Papernot와 그의 공동 연구진은 공개적으로 접근 가능한 AI 모델이 확산 과정에서 전략을 스스로 조정하는 웜(worm)을 구동하는 데 사용될 수 있음을 보여주었습니다 (사진: Nick Iwanyshyn)

발행일: 2026년 6월 2일

토론토 대학교(University of Toronto)의 연구팀이 해커들에게 훨씬 적은 비용으로 더 강력한 권한과 도달 범위를 부여하는 새로운 유형의 사이버 위협을 발견했습니다. 이는 무료 AI 모델로 구축될 수 있습니다. 모든 온라인 기기가 잠재적인 표적이 될 수 있으며, 현재의 사이버 방어 체계는 아직 이에 대비할 준비가 되어 있지 않습니다.

6월 2일에 연구 결과를 발표한 이 연구진은 공개적으로 접근 가능한 AI 모델이 한 기기에서 다음 기기로 확산됨에 따라 전략을 조정하는 웜(worm)을 구동하는 데 사용될 수 있음을 최초로 보여준 것으로 믿어집니다. 이 웜은 전체 네트워크의 제어권을 장악하고 컴퓨팅 파워를 탈취하여, 해커들이 사실상 비용 부담 없이 정교한 공격을 수행할 수 있게 합니다.

외부 세계와 격리된 보안 디지털 실험실에서 수행된 이번 연구는, 고도로 숙련된 해커가 학습, 계산 및 실시간 전환(pivoting)이 가능한 멀웨어(malware)를 유포하기 위해 최첨단 AI나 막대한 자본을 필요로 하지 않는다는 것을 보여줍니다. 이 멀웨어는 시스템 전반으로 확산되면서 각 기기의 알려진 취약점(vulnerabilities)을 악용합니다.

이러한 발견은 금융 시스템부터 병원, 그리고 핵심 서비스를 뒷받침하는 네트워크에 이르기까지, 서로 연결된 우리 세상의 보안에 대해 깊은 우려를 불러일으킵니다.

"악의적인 행위자들이 스스로 이를 알아내기 전에, 통제된 학술적 환경에서 이 위협을 이해하는 것이 우리에게 매우 시급했습니다"라고 U of T에 위치한 CleverHans Lab의 구성원들과 함께 연구를 집필한 Nicolas Papernot는 말했습니다. 그는 Vector Institute의 Canada CIFAR (Canadian Institute for Advanced Research) AI Chair이기도 합니다.

U of T의 응용과학 및 공학부(Faculty of Applied Science & Engineering) 컴퓨터 공학 부교수이자 문리과대학(Faculty of Arts & Science) 컴퓨터 과학 부교수이기도 한 Papernot는, 위협 행위자(threat actors)에게 도움이 될 수 있는 모든 정보를 제거하기 위해 면밀한 검토를 거친 후에만 연구 내용을 공유했다고 덧붙였습니다. 그는 이러한 노력이 비공개적으로 진행되고 있다는 점을 잘 알고 있다고 언급했습니다. 그는 일상적인 노트북부터 HVAC(냉난방 공조) 시스템, 에너지 그리드(energy grid)에 이르기까지 광범위하게 퍼져 있는 새로운 위협으로부터 연구자, 정책 입안자 및 일반 대중이 스스로를 보호할 기회를 주기 위해 가능한 한 빨리 공개해야 한다고 느꼈다고 말했습니다.

출판 전, 연구진은 국가 과학, 보안 및 국방 기관과 연구 결과를 공유하였으며, 정보를 책임감 있게 공개하는 방법에 대해 조언을 구했습니다.

“우리가 이 연구를 수행하는 이유는 우리 모두가 의존하는 디지털 생태계의 보안을 보장하고 사람들을 안전하게 지키기 위해서입니다. 이번 발견은 우리를 사이버 보안(cybersecurity)의 새로운 시대로 몰아넣고 있습니다.”라고 Papernot는 말했습니다. 그는 AI가 모두에게 책임감 있고, 포용적이며, 유익하도록 보장하는 데 집중하는 U of T의 Schwartz Reisman Institute for Technology and Society의 교수진 소속입니다.

“위험을 이해함으로써, 우리는 이제 이러한 위협을 탐지하고 방어하는 데 필요한 대응책을 개발할 수 있는 위치에 서게 되었습니다.”

과소평가된 위협

세계적인 사이버 보안 전문가 중 한 명인 Papernot는 사이버 보안 커뮤니티가 아직 주목하지 않는 문제까지 포함하여, 가장 중요한 보안 우려 사항을 예측하는 것을 자신의 연구실의 사명으로 삼아왔습니다.

Anthropic의 Claude Mythos와 같은 가장 강력한 AI 모델의 등장은 빅테크 기업들이 오용을 방지하기 위해 엄격한 통제를 유지하고 있음에도 불구하고, 숨겨진 보안 결함을 찾아내는 전례 없는 능력에 대해 광범위한 경각심을 불러일으켰습니다.

하지만 Papernot의 팀은 누구나 무료로 다운로드하고 수정할 수 있는 더 작고 상대적으로 단순한 모델들의 잠재적 오용 가능성에 주목했습니다. 연구자와 개발자들에게는 가치 있는 자산이지만, 이러한 "오픈 웨이트 (open-weight)" AI 모델들은 안전 가드레일 (safety guardrails)이 제거될 수 있으며, 충분한 기술적 지식이 있다면 해를 끼치도록 조작될 수 있습니다.

이러한 위험은 흔히 이 모델들이 실제적인 피해를 입힐 만한 힘이 부족하다는 가정하에 과소평가되곤 합니다. 이에 Papernot의 팀은 안전한 학술적 환경에서 그 가설을 검증해 보기로 결정했습니다.

프로토타입 구축

웜 (worm)은 네트워크를 타고 기어 다니며 사용자의 클릭 없이도, 그리고 사용자가 인지하지 못하는 사이에 접촉하는 모든 기기에 자신을 복제하는 디지털 침입자입니다. 만약 웜이 뿌리를 내린다면 전체 시스템에 큰 혼란을 초래할 수 있습니다. 전통적으로 이러한 유형의 공격은 인간이 프로그래밍한 고정된 스크립트를 따릅니다. 만약 프로그래밍되지 않은 방어 체계에 부딪히면 공격은 실패합니다. 사이버 보안 전문가들은 이 점을 알고 있으며, 이러한 위협을 봉쇄하기 위한 보호책을 구축해 왔습니다.

AI 기반 버전의 경우, Papernot의 팀은 광범위한 예방 조치를 취하며 보안이 유지되는 폐쇄된 시스템 내에서 개념 증명 (proof-of-concept) 프로토타입을 구축했습니다. 그들의 실험은 노트북, 프린터, 카메라를 포함하여 서로 연결된 수십 대의 기기 시뮬레이션 환경에서 AI 구동 웜의 능력을 모방합니다.

연구진의 작업은 오픈 웨이트 (open-weight) AI 모델이 훨씬 더 정교한 위협을 설계하는 데 사용될 수 있음을 보여주었습니다. 즉, 각 타겟을 정찰하고, 공격을 맞춤화하며, 다음 기기로 자신을 복제하기 전에 기기를 장악할 수 있는 위협입니다. 또한 이 웜은 네트워크 깊숙이 이동하면서 정보를 수집하며, 매번 발생하는 침해 사례를 통해 다른 기기의 잠금을 해제할 수 있는 비밀번호와 취약점을 드러냅니다. 그리고 웜은 적응하기 때문에, 단 하나의 방어 체계로도 이를 막을 수 없습니다.

이 웜은 피해자의 희생을 통해 그 영향력을 확장합니다. 일단 기기에 침투하면, AI 웜은 자신의 추론 (reasoning)을 가속하고 다음 공격을 실행하기 위해 기기의 연산 능력 (processing power)을 탈취합니다. 이렇게 훔친 컴퓨팅 자원 (compute)은 웜의 확산을 추진하며, 결과적으로 새로운 감염에 드는 비용을 사실상 제로로 만듭니다.

"해커들은 보통 시간과 컴퓨팅 자원이 제한적이었기 때문에 가장 가치가 높은 목표를 우선순위에 두어야 했습니다."라고 Papernot는 말합니다. "하지만 이제 웜이 일단 실행되면, 그 비용은 거의 제로에 가깝게 떨어질 것입니다."

AI 애플리케이션을 통해 스스로 확산되는 웜에 관한 이전 연구들과 달리, 연구진의 프로토타입 (prototype)은 AI 시스템 외부에서 작동하여 기반 소프트웨어를 공격할 수 있는 위협을 나타내며, 훨씬 더 광범위한 기기들을 위험에 빠뜨립니다.

"인터넷에 연결된 모든 기기 — 노트북, 카메라, 스마트 온도 조절기 및 그 외 모든 것 — 는 그 기기가 보유한 데이터 때문이 아니더라도, 더 가치 있는 목표를 공격하기 위한 발판 (foothold)으로서 잠재적인 표적이 됩니다."

사이버 위협의 새로운 시대

이 연구는 AI 웜이 값비싼 모델이나 컴퓨팅 파워를 필요로 하지 않는다는 점을 보여주지만, 이를 구축하는 데는 여전히 기술적 전문 지식이 필요합니다. 그럼에도 불구하고 Papernot는 방어할 수 있는 시간적 여유가 급격히 줄어들고 있으며, 사이버 보안 업계가 다가올 위협에 대비가 되어 있지 않다고 의심합니다.

강력하고 엄격하게 보호되는 Mythos와 달리, 이 프로토타입은 알려지지 않은 약점을 찾아내지는 못합니다. 하지만 통제되지 않은 환경에서 이 웜은 인터넷 접속 권한을 얻어, 새로 발견된 취약점 (vulnerabilities)에 대한 경고 공지를 스캔하고 악용할 수 있으며, 이를 막기 위한 소프트웨어 패치 (software patches)보다 더 빠르게 움직일 수 있습니다.

이 중 일부는 소프트웨어 업데이트로 해결할 수 있습니다. 하지만 약한 비밀번호나 허술한 IT 설정과 같은 인간의 실수(human errors)는 패치를 배포한다고 해서 해결될 수 없습니다. 이는 해커가 전례 없는 피해를 입히기 위해 반드시 가장 진보된 AI 모델을 사용할 필요는 없다는 것을 의미합니다.

“상호 연결된 세상에서 그 어떤 시스템도 이러한 위협으로부터 자유로울 수 없습니다.”라고 Papernot는 말합니다. “이러한 연구 결과를 공유하는 것은 연구자, 산업계 리더, 그리고 정책 입안자들이 신속하게 행동에 나서도록 결집시키는 첫 번째 단계입니다.”

모든 기기는 다음 공격을 위한 잠재적인 정보원이 될 수 있으므로, 개별 기기를 잠그는 것이 전체 네트워크를 해킹하기 어렵게 만듭니다. Papernot는 IT 전문가들에게 시스템을 노출시킬 수 있는 모든 보안 설정을 강화할 것을 촉구합니다. 사용자들 또한 각자의 역할을 다해야 합니다.

“우리를 안전하게 지키기 위해 모두가 각자의 역할을 수행해야 합니다.”라고 Papernot는 말합니다.

이는 좋은 보안 위생 (security hygiene)을 실천하는 것을 의미합니다. 기기의 패치 (patch)를 유지하고 최신 상태로 업데이트하십시오. 강력한 비밀번호를 사용하십시오. 다요소 인증 (multifactor authentication)을 활성화하십시오.

“우리는 더 이상 소프트웨어 업데이트를 ‘무시’할 여유가 없습니다.”라고 그는 말합니다. “당신이 닫는 모든 문은 침입 경로를 하나 줄이는 것입니다. 그러니 재부팅하는 데 몇 분을 투자할 가치가 있습니다.”

박사 과정 학생 Jonas Guan (왼쪽), Nick (Hengrui) Jia (중앙), 그리고 U of T 부교수 Nicolas Papernot (사진 제공: Nick Iwanyshyn)

방어를 위한 공개

Papernot에게 있어 연구 결과를 발표하는 것 자체가 학술 연구가 독보적인 위치에서 수행할 수 있는 방어 행위입니다.

그는 AI 혁명을 이끈 공로로 노벨상을 수상한 University Professor Emeritus Geoffrey Hinton이 세운 선례를 언급합니다. “Geoffrey는 AI 규제와 관련하여 의사 결정 형성에 있어 학술 연구가 수행하는 역할에 대해 목소리를 높여왔습니다. 학계, 산업계, 그리고 정부가 이처럼 집단적으로 결집하는 것이야말로 우리가 여기서 확인한 AI 기반 컴퓨터 웜 (computer worms)이라는 새로운 위협에 대응하기 위해 정확히 필요한 일입니다.”

사이버 보안 (cybersecurity) 연구에서 새로운 위협을 더 잘 이해하고 이에 대한 방어 체계를 평가하기 위해 통제된 환경에서 개념 증명 (proof-of-concept) 프로토타입을 구축하는 것은 잘 확립된 관행입니다. 학술적 환경에서 이러한 연구를 수행하는 것은 연구의 독립성을 유지하고, 윤리 및 안전 표준을 준수하며, 검토와 정밀 조사를 받을 수 있도록 보장하여 궁극적으로 더 넓은 커뮤니티에 이익을 줍니다.

Papernot는 이 위협을 세상에 알리는 데 도움을 준 공동 저자 및 협력자인 Jonas Guan, Tom Blanchard, Hanna Foerster, Hengrui Jia, 그리고 Gabriel Huang에게 공을 돌렸습니다.

그의 연구실은 이미 대응책을 개발하기 위해 열심히 노력하고 있습니다. 그리고 그는 U of T가 이를 수행하기에 완벽한 장소라고 말합니다. “U of T는 이와 같은 거대한 문제를 해결하는 데 필수적인 심도 있는 AI 전문 지식, 다학제적 인재, 안전한 연구 환경, 인프라 및 기관적 규모를 제공합니다.”라고 그는 말합니다. “그리고 이 문제에 대한 해결책은 모든 규모의 오픈 소스 (open-source) AI 모델의 가용성 확대와 가장 강력한 모델을 만드는 기업들의 투명성을 포함할 것입니다.”

“우리는 해결책을 찾고 더 안전한 미래를 구축하기 위해 전 세계와 협력할 준비가 되어 있습니다.”