Five Eyes, AI 모델이 수개월 내 정부를 전복시킬 수 있다고 경고

미국, 영국, 캐나다, 호주, 뉴질랜드로 구성된 Five Eyes 정보 동맹은 드물고 전례 없는 공동 성명을 통해 엄중한 경고를 발표했습니다. 즉, 정부를 불안정하게 만들고 핵심 비즈니스 인프라를 교란할 수 있는 고급 AI 모델이 수년이 아닌 수개월 내에 등장할 수 있다는 것입니다.

5개국 정보 기관이 공동으로 발표한 이 경고는 서구 정보 커뮤니티가 인공지능 (AI) 주변의 위험 지형을 인식하는 방식에 있어 중대한 변화를 나타냅니다. 성명은 급격히 발전하는 AI 역량으로 인한 재앙적인 결과를 방지하기 위해 즉각적인 규제 및 기술적 조치를 촉구합니다.

Five Eyes 성명: 주요 요점

5개국 정보 분석가들이 작성한 기밀 해제 보고서는 고급 AI 시스템이 향후 6~18개월 이내에 가능하게 할 수 있는 몇 가지 우려스러운 시나리오를 설명합니다:

대규모 허위 정보 (Disinformation at Scale): AI가 생성한 프로파간다와 딥페이크 (deepfakes)는 현재의 탐지 도구가 대응할 수 있는 속도보다 더 빠르게 민주적 절차를 압도하고, 선거에 영향을 미치며, 기관에 대한 대중의 신뢰를 침식할 수 있습니다.
핵심 인프라 공격 (Critical Infrastructure Attacks): 자율형 AI 에이전트 (Autonomous AI agents)는 인간 해커를 넘어서는 속도와 정교함으로 전력망, 용수 시스템 및 금융 네트워크의 제로 데이 취약점 (zero-day vulnerabilities)을 악용할 수 있습니다.
경제적 혼란 (Economic Disruption): 고급 AI로 구동되는 알고리즘 트레이딩 (Algorithmic trading) 시스템은 시장 붕괴를 유발할 수 있으며, AI 기반의 기업 스파이 행위는 국제 비즈니스 경쟁을 약화시킬 수 있습니다.
무기화된 자율성 (Weaponized Autonomy): 디지털 인프라를 기만, 조작 또는 파괴하도록 설계된 공격적 AI 에이전트는 국가 및 비국가 행위자 모두에 의해 배치될 수 있습니다.

"범용 AI (General-purpose AI) 역량과 접근 가능한 배포 인프라의 결합은 파괴적인 공격을 실행하기 위한 장벽이 현대사 그 어느 때보다 낮아졌음을 의미합니다"라고 Five Eyes 성명은 밝히고 있습니다. "우리는 전례 없는 전략적 위험의 시대로 진입하고 있습니다."

이 경고가 중요한 이유

이 경고를 특히 중요하게 만드는 것은 바로 **타임라인 (Timeline)**입니다. 파괴적인 AI 위험을 중장기적 우려(5~10년 후)로 규정했던 이전의 평가들과 달리, Five Eyes의 평가는 예방적 조치를 취할 수 있는 창이 급격히 좁아지고 있다고 결론지었습니다.

이전의 AI 보안 조치들이 제공하는 맥락

이번 공동 경고는 2026년에 발생한 몇몇 주목할 만한 AI 보안 조치들에 뒤이어 나왔습니다. 이와 관련된 발전 사항으로, 미국 정부는 국가 안보 우려로 인해 Anthropic이 가장 진보된 AI 모델들을 비활성화하도록 강제했습니다 — 이는 주요 AI 연구소(AI lab)가 프런티어 시스템 (Frontier systems)의 배포를 중단하도록 강요받은 첫 사례입니다. 해당 조치는 노르웨이의 초등학교 내 생성형 AI (Generative AI) 금지와 더불어, AI 위험에 대한 광범위한 글로벌 재평가를 반영합니다.

한편, "AI 에이전트를 위한 DNS"라고 묘사되는 Google, Microsoft 및 11개 기타 기술 거대 기업의 에이전틱 리소스 디스커버리 (Agentic Resource Discovery, ARD)) 출시는 Five Eyes의 경고가 다루고 있는 바로 그 인프라 문제를 의도치 않게 부각시켰습니다. 즉, AI 에이전트가 더 자율적이고 상호 연결될수록, 악의적인 행위자들을 위한 공격 표면 (Attack surface)이 기하급수적으로 확장된다는 점입니다.

Five Eyes가 권고하는 사항

공동 성명에는 정부와 AI 개발자를 위한 구체적인 정책 권고 사항이 포함되어 있습니다:

권고 사항	대상
배포 전 프런티어 AI (Frontier AI) 모델에 대한 의무적 안전 테스트	AI 개발자
...

업계 반응

주요 AI 연구소들은 이번 경고에 신중하게 대응했습니다. OpenAI, Anthropic, Google DeepMind, 그리고 Meta는 모두 강력한 안전 프레임워크 (Safety Frameworks)의 필요성을 인정하는 성명을 발표했습니다. 다만, 배포 전 의무화 및 국제 조약에 관한 Five Eyes의 가장 공격적인 권고 사항을 명시적으로 지지한 곳은 없었습니다.

Google DeepMind의 대변인은 "우리는 AI 안전에 대한 Five Eyes의 관심에 환영을 표하며, 프런티어 모델 (Frontier Models)에 엄격한 평가가 필요하다는 점에 동의합니다"라고 밝혔습니다. "하지만 유익한 AI 연구를 저해하고, 규제가 덜 엄격한 국가들에게 경쟁 우위를 내어줄 수 있는 포괄적인 제한 조치에 대해서는 주의를 당부합니다."

특히, **AI 안전 연구자들 (AI safety researchers)**은 이번 경고가 자신들이 수년간 제기해 온 우려를 입증한다며 대체로 환영하는 분위기입니다. Center for AI Safety의 선임 AI 정책 연구원인 Connor Leigh 박사는 기자들에게 다음과 같이 말했습니다. "지금은 정보 공동체가 2023년부터 AI 안전 연구자들이 경고해 온 내용을 따라잡은 순간입니다. 차이점이 있다면, 이제 그들은 이를 뒷받침할 분류된 정보 (Classified Intelligence)를 보유하고 있다는 점입니다."

향후 전망

Five Eyes의 성명은 회원국 전반에 걸쳐 규제 활동의 물결을 일으킬 것으로 예상됩니다. 영국은 이미 다음 달 의회에 **AI 안전 및 보안 법안 (AI Safety and Security Bill)**을 제출할 것임을 시사했습니다. 캐나다와 호주는 AI 거버넌스 (AI Governance) 프레임워크에 대한 병행 검토를 진행 중입니다. 미국 국가안보회의 (National Security Council)는 권고 사항을 이행하기 위해 부처 간 태스크포스 (Inter-agency Task Force)를 구성한 것으로 알려졌습니다.

기업들에게 이번 경고는 즉각적인 시사점을 던져줍니다. **기업용 AI 거버넌스 (Enterprise AI governance)**는 더 이상 단순한 규제 준수(compliance)를 위한 체크박스 항목이 아니라, 전략적 필수 과제가 되고 있습니다. 고객 응대 또는 인프라 민감 직무에 AI 에이전트 (AI agents)를 배치하는 기업들은 보안 태세 (security postures)를 재평가하고, 모델 공급망 (model supply chains)을 감사하며, 훨씬 더 엄격해질 규제 환경에 대비해야 합니다.

Five Eyes의 경고는 또한 AI 데이터 센터를 위한 대규모 인프라 구축에 대한 의문을 제기합니다. 최근 FERC가 AI 데이터 센터 연결을 우선시하기 위해 역사적인 개편을 명령함에 따라, AI의 끝없는 에너지 수요를 지원하기 위해 전력망 (grid)이 압박을 받는 상황에서, 이토록 많은 연산 능력 (computational power)을 중앙 집중식 시설에 집중시키는 것이 초래할 보안상의 영향은 더욱 시급한 문제가 되고 있습니다.

핵심 요약 (The Bottom Line)

Five Eyes의 공동 경고는 AI 리스크에 관한 글로벌 담론의 전환점을 시사합니다. 정보 기관들은 이제 수년이 아닌 수개월 단위의 타임라인에 따라 움직이고 있으며, 이들의 권고 사항은 대중이 볼 수 없는 기밀 위협 평가 (classified threat assessments)의 무게를 담고 있습니다.

AI 개발자, 정책 입안자, 그리고 기업 도입자 모두에게 메시지는 명확합니다. 안전하고, 책임감 있으며, 회복 탄력성 있는 (resilient) AI 시스템을 구축할 수 있는 시간적 여유가 빠르게 줄어들고 있다는 것입니다. 문제는 AI가 재앙적인 위험을 초래할 것인가의 여부가 아니라, '얼마나 빨리' 초래할 것인가, 그리고 우리가 그에 대비되어 있는가 하는 점입니다.

외부 출처:

_원문 게시: TekMag

Five Eyes, AI 모델이 수개월 내 정부를 전복시킬 수 있다고 경고

요약

핵심 포인트