월요일 공개된 공식 Nvidia 블로그 게시물에 따르면, Nvidia, Microsoft, SpaceX, The Linux Foundation, Adobe, Siemens를 포함한 30개 이상의 기술 업계 리더들로 구성된 연합이 AI 안전 및 보안을 위한 오픈 소스 (Open Source) 도구를 구축하고 배포하는 것을 목표로 하는 “Open Secure AI Alliance”를 결성했습니다. 인프라, 클라우드 컴퓨팅 (Cloud Computing), 사이버 보안 (Cybersecurity), 엔터프라이즈 소프트웨어 (Enterprise Software) 리더들이 혼합된 Nvidia 주도의 이 연합은 AI 취약점을 식별하고 패치하며, 보안 프레임워크 (Security Frameworks)를 공유하고, AI 소프트웨어 스택 (Software Stack) 전반에 걸쳐 신원 확인 및 감사 표준을 수립하기 위한 협력적 노력의 역할을 수행할 것입니다. 흥미롭게도 OpenAI, Anthropic, Google을 포함한 AI 분야의 가장 큰 이름들은 멤버 명단에서 제외되었습니다.

TH Premium으로 더 깊이 알아보기: AI 및 데이터 센터

Microsoft data center in Mount Pleasant, Wisconsin

(이미지 출처: Microsoft)

• 광학 (Photonics) 및 고속 데이터 이동은 차세대 주요 AI 병목 현상입니다

• 데이터 센터 냉각 현황

• 대규모 AI 데이터 센터 구축이 에너지 공급을 압박하고 있습니다

• Ultra Ethernet: 내일의 데이터 센터 상호 연결 (The data center interconnection of tomorrow)

"세상에는 폐쇄형 모델(closed models)과 개방형 모델(open models)이 모두 필요합니다. 사이버 보안(cybersecurity)을 위해서는 개방형 모델과 개방형 하네스(open harnesses)가 필수적입니다. 왜냐하면 이들은 방어 역량을 민주화하고, 방어자들을 위한 투명성을 높이며, 데이터를 보호하는 동시에 사이버 방어를 가능하게 하고, 맞춤형의 지역화된 제어 기능을 통해 프런티어 폐쇄형 모델(frontier closed models)을 보완하기 때문입니다. 오픈 소스(Open source)는 단일 장애점(single point of failure) 없이 대규모로 분산된 커뮤니티 주도 및 자기 제어형 방어를 가능하게 합니다."라고 발표문은 전하고 있습니다. 연합의 기여자들은 현재 개방형 방어 스택(open defense stack)을 구축하거나 이를 위한 다양한 도구를 제공하고 있습니다.

이 이니셔티브는 이번 달 초 발생한 OpenAI HuggingFace 보안 사고에 의해 직접적으로 촉발되었습니다. 해당 사고 당시 OpenAI의 자율 테스트 에이전트가 샌드박스(sandbox)를 벗어나 AI 스타트업인 Hugging Face를 침해했습니다. 사고 과정에서 여러 프런티어 폐쇄형 모델(frontier closed models)에 적용된 안전 가드레일(safety guardrails)로 인해 개발자들이 중요한 포렌식 분석(forensic analysis)을 수행하는 데 어려움을 겪었습니다. 결국 Hugging Face는 침입을 분석하고 차단하기 위해 베이징 소재 Z.ai의 오픈 웨이트 모델(open-weight model)인 GLM-5.2를 자체 인프라에서 실행하여 17,000개 이상의 동작을 분석해야 했습니다.

해당 사고를 바탕으로, 연합은 모델을 로컬에서 검사, 수정 또는 실행할 수 없다는 점 — 폐쇄형 시스템(closed systems)에서는 불가능하지만 오픈 시스템(open systems)에서는 가능한 일 — 이 사이버 방어(cyber defense)를 위해 폐쇄형 AI 시스템에만 전적으로 의존할 때 발생하는 근본적인 약점이라고 주장합니다. 따라서 Open Secure AI Alliance는 기업들이 독립적으로 배포하고 적응시킬 수 있는 고급 오픈 모델, 에이전트 하네스(agent harnesses), 보안 도구에 대한 접근 권한을 제공함으로써, 단일 제공자에 대한 의존도를 낮추는 동시에 멀티 벤더(multi-vendor) AI 생태계 전반의 방어력을 강화하는 것을 목표로 합니다. 해당 게시물은 “그것이 바로 Open Secure AI Alliance의 사명입니다. 전 세계의 방어자들이 신뢰하고 제어할 수 있는 오픈 프런티어(open, frontier) 도구를 확보할 수 있도록 보장하는 것입니다”라고 밝혔습니다.

DeepSeek 및 최근 출시된 Kimi K3와 같은 중국 모델들은 오픈 웨이트(open-weight) 방식이며, 그 개방적인 기능 덕분에 미국 기업들을 포함하여 채택 사례가 늘고 있습니다. 한편, Trump 행정부는 보안 우려를 이유로 중국 AI 모델을 금지하기 위해 준비 중인 것으로 알려졌습니다. 연합은 오픈 소스 도구의 잠재적 위험을 인정하면서도, 폐쇄형 시스템이 완전한 해결책은 아니라고 주장합니다. 발표문에 따르면 “그러한 위험은 실재하지만, 폐쇄형 시스템에서도 사라지지 않으며, 단순히 가중치(weights)를 폐쇄 상태로 유지한다고 해서 결연한 공격자들이 강력한 AI를 탐색하거나 악용하는 것을 막을 수는 없습니다”라고 합니다. 오픈 소스 기술에 대해 우려를 표명해 온 규제 당국자들과 달리, 연합은 정책 입안자들이 오픈 웨이트 모델을 부채(liabilities)가 아닌 방어 자산(defensive assets)으로 취급할 것을 촉구하고 있습니다.

또한 AI 개발을 소수의 폐쇄형 제공업체(closed providers)의 손에만 맡기는 것은 위험한 단일 장애점(single points of failure)을 생성한다고 주장합니다. 연합 측은 “올바른 대응은 방어자들에게 유능한 오픈 시스템에 대한 접근을 거부하는 것이 아닙니다. 개방성에 강력한 보호 장치, 악의적인 오용에 대한 명확한 규칙, 엄격한 평가 및 신속한 복구(remediation)를 결합하는 것입니다. 방어자들에게는 프런티어 폐쇄형 모델(frontier closed models)과 프런티어 오픈 모델(frontier open models)이 모두 필요하며, 이들이 함께 작동함으로써 작업에 적합한 시스템을 선택하고 보안이 요구되는 곳 어디에서나 투명성, 적응성 및 주권적 통제(sovereign control)를 보장할 수 있어야 합니다”라고 주장합니다.

발표에 따르면, “Linux Foundation의 Akrites 이니셔티브와 OpenSSF 커뮤니티의 성과를 기반으로 구축되는 Open Secure AI Alliance는 오픈 기술를 사용하여 취약점을 복구하고 공개하는 작업을 수행할 것입니다”라고 합니다. 창립 멤버로는 NVIDIA, Dell Technologies, Synopsys, Microsoft, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face, Databricks, SpaceXAI, 그리고 The Linux Foundation이 포함됩니다. 눈에 띄게 연합에서 제외된 기업은 독점적인 '폐쇄형(closed)' AI 모델을 보유한 OpenAI, Google, Anthropic입니다.