Nvidia와 다수의 기술 거물들은 월요일, rogue OpenAI 모델에 의한 사이버 공격의 여파가 지속되는 가운데, 오픈 모델 (open models)에 집중하는 새로운 AI 안전 이니셔티브를 출범했습니다.

지난주, 공격의 대상이었던 스타트업 Hugging Face가 미국의 선도적인 프런티어 모델 (frontier models)들을 사용하여 스스로를 방어할 수 없었다는 사실이 드러났습니다. 가드레일 (guardrails)이 공격자와 방어자를 구분하지 못했기 때문입니다. 대신, Hugging Face는 동일한 제한을 받지 않는, 자체 호스팅이 가능한 오픈 웨이트 (open weight) 중국 모델로 눈을 돌렸습니다.

가장 진보된 형태인 오픈 웨이트 모델의 채택이 늘어나는 중국 AI 모델들을 어떻게 억제할지 미국 의원들이 점점 더 심도 있게 검토하고 있는 가운데, 기술 거물들은 오픈 AI 도구를 구축하고 공유하는 것을 목표로 하는 이니셔티브를 시작했습니다.

오픈 모델 (open models)은 다운로드, 수정 및 자체 호스팅이 가능합니다. 이는 Anthropic과 OpenAI가 구축한 프런티어 시스템 (frontier systems)을 포함한 폐쇄형 모델 (closed models)과 대조적이며, 폐쇄형 모델은 특정 인프라를 통해서만 접근할 수 있습니다.

Nvidia는 성명을 통해 "Open Secure AI Alliance는 오픈 기술를 사용하여 취약점을 보완하고 공개하기 위해 노력할 것입니다"라고 밝혔습니다. "최근의 Hugging Face 보안 사고는 명확한 교훈을 주었습니다. 사이버 방어자들은 자가 방어를 위해 오픈된 프런티어 에이전틱 시스템 (frontier agentic systems)이 필요합니다."

Nvidia와 함께 이 연합의 다른 구성원으로는 Microsoft, SpaceX, Palantir, 그리고 미국과 유럽의 수십 개 다른 기술 기업들이 포함되어 있습니다.

한 모델이 더 잘 훈련된 모델로부터 지식을 추출하는 '증류 (distillation)'로 알려진, 미국 경쟁사들의 시스템으로부터 정보를 추출하려는 캠페인을 벌였다고 비난받는 중국 AI 기업들이 만든 모델에 대한 접근을 제한해야 한다는 요구가 커지고 있습니다.

지난주, Scott Bessent 재무장관은 미국 기업들을 대상으로 증류 공격 (distillation attacks)을 수행하는 중국 기업들에 대해 제재를 가하겠다고 위협했습니다.

싱크탱크인 외교협회 (Council on Foreign Relations)의 중국 및 신흥 기술 선임 연구원인 Chris McGuire는 CNBC에 "미국 정부가 중국 모델에 대해 제한을 부과할 실질적인 가능성이 있습니다"라고 말했습니다.

그는 이러한 조치에 API를 통한 토큰 구매나, 미국 기업이 클라우드에서 모델을 호스팅하고 고객에게 추론 (Inference) 비용을 청구하는 것과 같이 해당 모델과 관련된 거래를 금지하는 것이 포함될 수 있다고 말했습니다.

"워싱턴에서 이것은 오픈 소스 (Open-source) 대 폐쇄형 소스 (Closed-source)에 대한 논쟁이 아니라, 중국의 지식재산권 (IP) 절도를 용인할 것인지에 대한 논쟁입니다"라고 McGuire는 말했습니다. "어떠한 조치든 오픈 소스 생태계가 아닌 중국 기업들에 초점이 맞춰질 것입니다."

How a Chinese AI model stopped OpenAI’s ‘unprecedented’ cyber attack

하지만 가장 유능한 오픈 소스 모델의 대다수가 중국 기업들에 의해 구축되고 있는 상황에서, 규제에 대한 우려가 제기되고 있습니다.

지난주 Nvidia, Microsoft, Meta, Palantir 및 20개 이상의 다른 기업들은 정책 입안자들이 "경쟁을 저해하거나 혁신을 해외로 몰아낼" 수 있는 오픈 웨이트 (Open-weight) AI 모델에 대한 "성급한 규제"를 피할 것을 촉구하는 서한을 발표했습니다.

OpenAI-Hugging Face 사건은 "실질적인 진실"을 보여주었다고 Nvidia는 밝혔습니다. "방어자가 자신의 인프라에서 고급 AI를 직접 검사, 적응 및 실행할 수 없을 때, 속도가 가장 중요한 바로 그 순간에 그들의 대응 능력은 제약받게 됩니다."