
Open-weight AI는 Kubernetes의 순간을 맞이하고 있습니다. 이를 망치지 맙시다
요약
Open-weight 모델이 Kubernetes처럼 AI 생태계의 중립적인 플랫폼 역할을 하며 혁신을 주도할 것이라고 분석합니다. 모델 파라미터가 공개됨에 따라 다양한 엔터프라이즈 솔루션과 도구들이 그 위에서 구축되는 생태계 형성을 전망합니다.
핵심 포인트
- Open-weight 모델은 AI 생태계의 새로운 기반(Substrate)이 될 가능성이 높음
- Kubernetes의 성공 사례처럼 중립적 플랫폼이 혁신을 가속화함
- Open-weight와 진정한 Open-source AI의 차이점 인지 필요
- 모델 파라미터 중심의 생태계가 다양한 벤더와 스타트업을 유입시킬 것
Open-weight 모델은 차세대 AI 생태계의 기반이 되고 있습니다. 미국은 스스로를 고립시키는 것이 아니라, 그 안에서 경쟁해야 합니다.
저는 이 이야기의 이전 버전을 본 적이 있습니다.
2013년, 저는 오픈 소스 클라우드 네이티브 (cloud-native) 소프트웨어 기업인 Mesosphere를 공동 창업했습니다. 우리는 제 공동 창업자인 Ben Hindman이 UC Berkeley에서 만드는 것을 도왔던 Apache Mesos를 기반으로 구축했습니다. 이후 우리는 Mesos를 중심으로 DC/OS (Data Center Operating System)를 구축하여 오픈 소스로 출시했으며, 지원 및 독점 기능을 포함한 엔터프라이즈 배포판을 통해 상용화했습니다.
수년간의 엄청난 성장 이후, Kubernetes가 우리를 뒤흔들었습니다. 그것은 더 최신이었고, 완전히 오픈 소스였으며, 클라우드 네이티브 (cloud-native) 커뮤니티를 빠르게 결집시켰습니다. 세계 최고의 분산 시스템 (distributed-systems) 및 인프라 엔지니어 중 다수가 여기에 자신의 커리어를 걸었고, 심지어 우리의 가장 충성스러운 커뮤니티 멤버 중 일부도 갈아탔습니다.
그 일이 일어난 후, 혁신은 Kubernetes로 이동했습니다. 플랫폼에 부족한 것이 무엇이든 누군가가 만들기 시작했습니다: 네트워킹 (networking), 스토리지 (storage), 관측성 (observability), 배포 도구 (deployment tools), 정책 엔진 (policy engines). 수많은 스타트업이 만들어졌고, 기존 벤더들도 합류했습니다. 프로덕션 환경에서 Kubernetes를 실행하는 데 필요한 거의 모든 구성 요소가 오픈 소스로 제공되었습니다. 이후 Mesosphere/D2iQ, Rancher, Red Hat, Nutanix를 포함한 클라우드 제공업체와 기업들은 통합, 엔터프라이즈 기능, 지원 및 운영을 중심으로 비즈니스를 구축했습니다.
Kubernetes가 단순히 저장소 (repository)가 공개되어 있었기 때문에 승리한 것은 아닙니다. 그것은 엔지니어, 클라우드 제공업체, 엔터프라이즈 벤더 모두가 고객의 요구에 맞게 확장할 수 있는 중립적인 기질 (substrate)이 되었습니다. 공통 인터페이스와 벤더 중립적인 거버넌스 (governance)는 모두에게 그 위에서 구축할 수 있다는 확신을 주었습니다.
제가 얻은 교훈은 오픈 소스가 항상 승리한다는 것이 아니었습니다. 사람들이 맞춤 설정할 수 있는 개방형 플랫폼이 산업의 무게 중심이 되면, 그 어떤 단일 벤더도 그 주변에서 일어나는 결합된 혁신 속도를 따라잡을 수 없다는 것이었습니다.
저는 AI가 동일한 지점에 도달하고 있다고 생각합니다.
Open weights는 모델을 플랫폼으로 변화시킵니다
먼저 용어에 대한 설명이 필요합니다. 우리가 흔히 "오픈 소스 (open source)"라고 부르는 대부분의 모델은 **오픈 웨이트 (open-weight)**라고 표현하는 것이 더 정확합니다. 학습된 파라미터 (parameters)를 다운로드하고 수정할 수는 있지만, 학습 데이터 (training data)와 전체 학습 과정은 대개 공개되지 않습니다. 이는 Open Source Initiative의 오픈 소스 AI 정의에는 미치지 못합니다. 이 차이는 중요합니다. 하지만 이것이 사람들이 실행하고 수정할 수 있는 결과물(artifact)을 중심으로 생태계가 형성되는 것을 막지는 못합니다.
Kubernetes 비유가 완벽하지는 않습니다. Kubernetes 기여자들은 실제 소스 코드를 검사하고 변경할 수 있으며, 개선 사항이 공유된 업스트림 (upstream) 프로젝트로 다시 흘러 들어갈 수 있습니다. 모델 파인튜닝 (fine-tunes)은 대개 그런 방식으로 작동하지 않습니다. 프런티어 웨이트 (Frontier weights)는 다운로드할 수 있을지 모르지만 여전히 값비싼 하드웨어가 필요하며, 중립적인 거버넌스 (governance)와 공통 인터페이스를 제공하는 CNCF와 같은 AI 분야의 대응물도 존재하지 않습니다. 이것들은 실질적인 차이점입니다. 공통된 메커니즘은 충분히 유능하고 이식 가능한 기질 (substrate)이 원래의 제작자가 혼자 구축할 수 있는 범위를 훨씬 뛰어넘는 상호 보완적인 혁신을 끌어들일 수 있다는 점입니다.
오픈 웨이트 모델을 사용하는 첫 번째 이유는 셀프 호스팅 (self-hosting)이었습니다. 기업들은 자신들의 데이터에 대한 통제권을 원했습니다. 자신들의 클라우드나 데이터 센터에서 모델을 실행하기를 원했습니다. 그리고 사용량과 추론 (inference) 비용이 증가함에 따라, 비용에 대해서도 점점 더 통제권을 갖기를 원하고 있습니다.
그러한 수요는 건강한 오픈 소스 서빙 스택 (serving stack)을 만들어냈습니다: vLLM, SGLang, llama.cpp, Ollama, MLX 등이 있습니다.
하지만 셀프 호스팅은 시작일 뿐입니다. 오픈 웨이트는 모델 그 자체를 개발자들이 적응시키고 재배포할 수 있는 무언가로 변화시킵니다. Hugging Face는 현재 200만 개 이상의 공개 모델을 호스팅하고 있습니다. Qwen 및 Gemma와 같은 인기 있는 모델 제품군 주변에서 개발자들은 다음과 같은 것들을 만들어냅니다:
- 다양한 실리콘 아키텍처 (silicon architectures) 및 규모에 맞게 양자화 (quantized) 및 변환된 웨이트 (weights);
- 코딩, 의료, 법률, 수학 및 에이전틱 워크플로 (agentic workflows)를 위한 파인튜닝 (fine-tunes) 및 LoRA 어댑터 (adapters);
- 서로 다른 파인튜닝을 결합한 모델 병합 (model merges);
- TensorRT-LLM, vLLM, MLX 등과 같은 런타임 (runtimes)을 위한 적응형 모델.
최근까지 이러한 최전선(frontier)에서의 활동을 무시하기는 쉬웠습니다. 오픈 모델(Open models)은 유용했지만, 베이스 모델(base models)은 가장 어려운 코딩 및 에이전트적(agentic) 과업을 수행할 만큼 충분히 뛰어나지 않았습니다. 그 격차는 빠르게 좁혀지고 있습니다. Z.ai는 MIT 라이선스 하에 공개 가중치(public weights)를 가진 GLM-5.2를 출시했습니다. 자체 평가 보고서에 따르면 SWE-bench Pro에서 62.1%를 기록하며, GPT-5.5의 58.6%를 앞섰습니다. 다만 결과는 벤치마크와 에이전트 하네스(agent harnesses)에 따라 달라질 수 있습니다.
Moonshot은 Kimi K3가 장기적 관점의 코딩(long-horizon coding)에서 폐쇄형 최전선(closed frontier)에 근접했다고 말하며, 7월 27일에 가중치를 공개하겠다고 약속했습니다. Artificial Analysis는 독립적인 평가에서 Kimi K3를 Opus 4.8 및 GPT-5.5와 함께 점수를 매기며 이러한 성능 주장을 뒷받침했습니다.
베이스 모델이 충분히 훌륭해지면, 생태계는 복리로 성장할 수 있습니다. 저는 에이전트 런타임(agent runtimes), 코딩 하네스(coding harnesses), 샌드박스(sandboxes), 평가(evaluations), 관측성(observability) 및 특화된 미세 조정(specialized fine-tunes)을 중심으로 한 새로운 프로젝트들이 등장할 것으로 예상합니다. 이들이 결합되면 프로덕션급 스택(production-grade stack)이 될 수 있습니다. 즉, 오픈 소스 소프트웨어 위에서 실행되며, 팀의 워크로드, 하드웨어 및 경제성에 맞춰 맞춤 설정이 가능한 오픈 가중치 모델(open-weight model)입니다.
이 스택이 모든 벤치마크에서 모든 폐쇄형 모델을 이길 수 있을까요? 아마 아닐 것입니다. 하지만 시간이 흐름에 따라 단일 벤더가 결합된 오픈 생태계의 혁신 속도를 앞지를 것이라고는 생각하지 않습니다. 최전선 기술은 인재 전쟁이며, 오픈 생태계는 전 세계의 유능한 사람들이 동일한 기반 위에서 구축할 수 있는 이유를 제공합니다.
중국 모델을 금지하는 것은 자책골이 될 것입니다
이는 워싱턴의 현재 논쟁으로 이어집니다. Kimi K3 및 기타 유능한 중국 모델들이 출시된 이후, 트럼프 행정부는 중국의 오픈 가중치 모델에 대한 제한을 검토 중인 것으로 알려졌습니다. 잠재적 금지의 정확한 형태는 아직 불분명합니다.
미국 연구자와 기업들이 중국의 오픈 가중치 (open-weight) 모델을 사용하는 것을 광범위하게 금지하는 것은 전혀 다른 결과를 초래할 것입니다. 이는 이미 수많은 중국인 연구자를 포함하여 세계 최고의 AI 연구자와 엔지니어들을 끌어들이고 있는 생태계로부터 미국을 고립시킬 것입니다. 나머지 세계는 계속해서 발전해 나갈 것이며, 정작 미국 개발자들이 소외되는 상황이 발생할 것입니다.
우리는 이미 Qwen을 통해 이러한 역학 관계를 목격했습니다. Hugging Face의 보고에 따르면, 지난 1년 동안 모델 다운로드의 41%를 중국 모델이 차지했습니다. 만약 최고의 오픈 가중치 파운데이션 모델 (foundation models)들이 점점 더 중국에서 나오게 된다면, 혁신은 Kubernetes 주변에 축적되었던 것과 같은 방식으로 그 모델들을 중심으로 축적될 것입니다.
미국이 경쟁해야 하는 방식
미국은 해당 생태계로부터 후퇴하는 것이 아니라, 그 생태계 안에서 경쟁해야 합니다.
프런티어급 미국 모델의 출시
미국의 연구소들은 스타트업들이 실제로 그 위에서 구축할 수 있는 라이선스 하에 프런티어급 (frontier-grade) 오픈 가중치 모델을 출시해야 합니다. 그동안 진전이 있었습니다. NVIDIA의 Nemotron 모델들은 NVIDIA 자체의 허용적인 라이선스 하에 상업적으로 사용 가능합니다. Thinking Machines는 Apache 2.0 라이선스로 Inkling을 출시했으며, OpenAI는 gpt-oss를, Google은 Gemma 4를 통해 동일한 방식을 취했습니다. 하지만 OpenAI와 Google의 가장 강력한 모델들은 여전히 폐쇄형(closed)으로 남아 있으며, 대부분의 미국 프런티어 연구소들의 모델들도 마찬가지입니다.
조달을 통한 개방형 시장 창출
정부는 특정 API 벤더에 대한 영구적인 의존성보다는, 휴대 가능하고 상호 운용 가능한 (interoperable) 시스템에 대한 수요를 창출하기 위해 조달 (procurement)을 활용해야 합니다. 국방부 (Department of Defense)는 이전에 이를 실행한 적이 있습니다. Platform One은 서로 다른 군사 프로그램들이 그 위에서 구축할 수 있는 오픈 소스 도구와 엔터프라이즈 제품을 제공합니다. 동일한 전략을 오픈 가중치 모델 주변의 혁신을 가속화하는 데 사용할 수 있습니다.
나머지 스택 구축
미국 기업들은 나머지 스택 (stack)을 구축해야 합니다. 스타트업은 모델을 커스텀(customize)하고 확장하며, 이를 제품에 내장하고 서빙 (serving), 툴링 (tooling), 지원 및 운영 레이어 (operational layers)를 제공할 수 있습니다. 선도적인 실리콘 기업들은 하드웨어를 계속 개선할 것입니다. 하이퍼스케일러 (Hyperscalers)와 네오클라우드 (neoclouds)는 모델과 그 생태계를 서비스할 수 있습니다.
모델을 금지하는 대신 표준을 설정하십시오
안전 (Safety)은 규제를 위한 가장 강력한 논거이지만, 전면적인 금지는 너무 투박하며 생태계 전체에 대한 접근성을 희생시키게 됩니다. 더 나은 접근 방식은 프런티어 모델 (frontier models)에 대한 독립적인 테스트와 표준을 마련하는 것입니다. 비유가 완벽하지는 않습니다. Kubernetes는 안전이 아닌 호환성 (compatibility)을 검증하기 때문입니다. 하지만 그 거버넌스 (governance) 모델은 유용합니다. Demis Hassabis는 이와 유사한 방향으로 미국이 주도하는 독립적인 표준 기구를 제안한 바 있습니다.
미국은 중국의 오픈 모델에 대응하여 자국 개발자들 주변에 벽을 쌓는 방식으로 반응해서는 안 됩니다. 우리는 모델을 직접 실행하고, 분해하고, 벤치마크 (benchmark)하고, 개선하며, 더 나은 미국의 대안을 만들어야 합니다. 그런 다음 미국의 스택을 세계에서 가장 채택하기 쉬운 스택으로 만들어야 합니다.
미국은 수십 년 동안 세계 최고의 기술 인재를 유치하고 그들이 성장할 수 있는 공간을 제공하는 데 시간을 보냈습니다. 나머지 세계가 더 개방적인 스택으로 표준화되는 동안, 이러한 이점을 폐쇄된 정원 (walled garden)으로 바꾸는 것은 엄청난 자책골이 될 것입니다. 이는 우리가 스스로 AI 리더로서의 역할을 포기하는 일이 될 것입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 HN AI Posts의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기