중국의 AI 발전과 미국의 안전성 논쟁의 충돌

AI 보안에서 가장 큰 불확실성 중 하나이자 가장 중대한 사안 중 하나는 바로 프런티어 (Frontier) AI 모델을 향한 중국의 진전입니다.

중요한 이유: 월요일, 파이브 아이즈 (Five Eyes) 지도자들은 AI 모델이 사이버 위협을 극적으로 가속화하기까지 전 세계적으로 불과 몇 달밖에 남지 않았다고 경고했습니다.

---

• 하지만 워싱턴의 내부 갈등과 AI 리스크를 측정하는 방법에 대한 업계 전반의 혼란으로 인해 대비 작업이 지연되고 있습니다.

뉴스 핵심: 새로운 중국산 오픈 소스 (Open-source) 모델인 GLM-5.2가 이번 주말 Anthropic의 Opus 4.8과 같은 모델의 에이전틱 (Agentic) 능력을 능가하는 성능을 선보이며 인터넷을 뒤흔들었습니다. 이는 실리콘 밸리 엘리트들로부터 찬사를 받았으며, 중국이 얼마나 빠르게 격차를 좁힐 것인지에 대한 의문을 제기하고 있습니다.

• 동시에, 트럼프 행정부는 안전 및 국가 안보 우려로 인해 Anthropic의 Fable 5 및 Mythos 5 모델을 출시하는 최선의 방법에 대해 여전히 논쟁 중입니다.

전체적인 그림: 현재 AI 보안에서 가장 큰 이견은 중국이 따라잡고 있느냐가 아니라, 얼마나 빨리 따라잡느냐 하는 점입니다.

• 스탠퍼드 (Stanford)의 AI 인덱스 보고서 (AI Index Report)는 지난해 중국 모델의 품질이 급격히 추격하며 미국의 우위를 대부분 지워버렸다고 시사합니다.
• 전 백악관 AI 책임자(czar)인 데이비드 색스 (David Sacks)는 바로 이번 달, 미국이 중국에 대해 단 6개월에서 9개월 정도의 우위만을 점하고 있다고 말했습니다.
• 그러나 다른 이들은 벤치마크 (Benchmark) 점수의 상승만으로는 중국이 프런티어 단계에서 진정으로 경쟁하는 데 필요한 컴퓨팅 (Compute) 및 인프라 (Infrastructure) 문제를 해결했다는 것을 의미하지 않는다고 주장합니다.

그들이 말하는 것: "그들이 사적으로 정말, 정말 뛰어난 것들을 보유하고 있을 가능성은 충분히 있으며, 우리가 미국인이라는 이유만으로 우리가 최고의 기술을 가지고 있다고 생각하는 것은 오만하고 어리석은 일입니다."라고 전 Facebook 보안 책임자인 Alex Stamos는 지난주 Axios에 말했습니다.

• 그는 중국 군사 해커들이 "미국인들이 자기들끼리 싸우고 사방에서 서로를 차단하고 있는 모습을 지금 매우 즐겁게 비웃고 있을 가능성이 높다"고 덧붙였습니다.

위협 수준: 당국자들과 입법가들은 중국이 강력한 AI 시스템을 사용하여 감시, 사이버 작전 및 군사 의사결정 능력을 강화할 수 있다고 우려합니다.

• 중국의 오픈 소스 (Open-source) 모델 수용은 전 세계적으로 중국의 AI 생태계를 더욱 경제적으로 매력적으로 만들 수 있으며, 특히 값비싼 미국의 프런티어 모델 (Frontier models)에 대한 대안을 찾는 기업들에게 그러할 수 있습니다.

행간의 의미: 논쟁의 상당 부분은 중국 모델이 오늘 무엇을 할 수 있는지에 관한 것이 아닙니다. 그것은 내일 깜짝 놀라게 될 위험에 관한 것입니다.

• 공개적으로 발언할 권한을 고용주로부터 부여받지 않아 익명을 요구한 한 오픈 소스 보안 연구원은 Axios에 설득, 사회 공학 (Social engineering), 취약점 발견 (Vulnerability discovery)과 같은 역량들이 어떻게 진화하고 있는지 이해하기 위해 프런티어 모델 (Frontier models)을 사용한다고 말했습니다.
• 그는 중국 모델이 향상됨에 따라, 최첨단 미국 시스템에 대한 접근을 제한하는 것이 방어자들에게 다음에 무엇이 올지 예측할 수 있는 수단을 더 적게 남겨줄 수 있다고 우려하고 있습니다.

그렇지만: 모든 사람이 중국의 발전이 미국의 AI 리더십에 즉각적인 위협이 된다고 믿는 것은 아닙니다.

• SecurityPal AI의 설립자이자 CEO인 Pukar Hamal은 Axios에 중국은 경쟁력 있는 프런티어 AI 모델을 개발하는 데 필요한 "최첨단 칩 (Bleeding-edge chips)"과 방대한 양의 데이터가 부족하다고 말했습니다.
• 그는 "누가 가장 많은 칩과 가장 많은 데이터에 접근할 수 있습니까? 지금까지는 미국 기업들입니다."라고 덧붙였습니다.

현실 점검 (Reality check): 연구자들은 Mythos와 같은 고급 모델을 사용하지 않고도 이미 많은 버그를 찾아낼 수 있으며, 이러한 모델들은 종종 비용이 더 많이 들고 접근하기 어렵습니다.

• AI 기반 보안 기업인 Aisle은 지난주 자사의 에이전트 역량 (agentic capabilities)이 이미 여러 테스트에서 Mythos를 능가하고 있다고 주장했습니다.

주목할 점 (What to watch): OpenAI는 자사의 사이버 모델인 GPT-5.5-Cyber를 더 허용적이고 유능하게 만들었습니다. 주요 벤치마크 (benchmarks)에서 이 모델은 Anthropic의 Mythos 5를 능가합니다.