AI

오픈 소스, 오픈 웨이트, 그리고 폐쇄형 AI 모델 간의 전쟁

심각한 질병을 앓고 있으며 의사들이 당신의 이미지를 스캔하고 검사 결과를 분석하여 질병의 범위와 깊이를 발견하고 치료법을 추천하는 데 GenAI를 사용할 것이라고 가정해 보세요. 다음 질문들에 스스로 답해보세요.

첫째, OpenAI나 Anthropic 같은 폐쇄형 소스(closed source)의 독점 모델 기반 AI를 원하십니까? 아니면 Meta Platforms, Moonshot AI, Alibaba, DeepSeek, OpenAI, Google, Mistral 또는 Hugging Face에서 제공되는 수많은 오픈 웨이트(open weight) 모델 중 하나를 원하십니까? 혹은 Nvidia의 Nemotron 3 모델이나 이제는 오래된 Meta Platforms의 Llama 3 및 Llama 4 같은 완전한 오픈 소스 모델을 원하십니까? 미국 회사만 만든 모델을 원하십니까?

둘째, 가장 많은 입력 파라미터와 출력 웨이트를 가진 모델을 원하십니까, 아니면 데이터가 적고 웨이트도 적은 간소화된 모델을 원하십니까?

이것들은 좋은 질문들이지만, 당신이 직접 선택하게 되지는 않을 것입니다. 의료 소프트웨어 공급업체와 헬스케어 기업들이 대신 결정할 것이기 때문입니다. 하지만 올바른 답은 무엇일까요?

저는 1980년대의 독점 소프트웨어 시대와 1990년대 Unix, Linux, Windows Server 혁명 속에서 성장했습니다. 저는 독점 시스템 및 애플리케이션 소프트웨어와 오픈 소스의 부가 지닌 가치를 모두 알고 있습니다. 또한 기업 컴퓨팅의 초기 수십 년을 지배했으며 여전히 전 세계 수십만 개의 대기업들이 수행하는 맞춤형 사내(inhouse) 애플리케이션 소프트웨어를 만드는 것의 가치도 알고 있습니다. 코드를 통제하면 회사의 운명을 통제할 수 있습니다.

하지만 제가 편향되는 부분은, 오픈 소스 소프트웨어가 폐쇄형 소스 독점 대안과 동일한 수준의 기능에 도달했을 때 상업적으로 지원되거나, 하이퍼스케일러(hyperscalers) 및 클라우드 빌더(cloud builders)의 경우 자체적으로 지원되는 오픈 소스 소프트웨어 쪽입니다.

이것은 운영체제와 관련 미들웨어 스택에서 수십 년 동안 일어난 변화입니다. 제가 신입 기자였을 때만 해도 아마 25개 정도의 데이터센터 하드웨어 플랫폼과 그보다 두 배에 달하는 운영체제가 있었는데, 시간이 지나면서 X86과 이제는 Arm이 주류가 되었고, IBM z 메인프레임 및 Power 시스템 장비가 일부 남아있습니다. IBM의 플랫폼은 미드레인지 및 엔터프라이즈 시스템에서 마지막으로 지원되는 Unix(AIX)와 마지막으로 지원되는 독점 플랫폼(IBM i)을 실행하며, 메인프레임에서는 독점 z/OS와 때로는 파티션에 구형 소프트웨어를 실행합니다. (Power Systems도 당연히 Linux를 실행하며, Red Hat Enterprise Linux뿐만 아니라요.)

그리고 Windows Server의 사용 범위가 축소되고 있지만, 이 플랫폼이 25년 전 데스크톱에서 데이터센터로 옮겨오면서 핵심 백 오피스 및 프론트 오피스 애플리케이션에 대한 사용량은 줄지 않았다고 생각합니다. 이것은 요즘 서버 섀시에 얼마나 많은 코어를 채울 수 있는지와 데이터 분석, 그리고 이제 AI가 독점적으로 Linux 위에서 실행된다는 것에 대한 진술입니다. 하지만 그렇다 하더라도 마이크로소프트조차도 Linux를 수용하고 있으며, 지난 10년간 SONiC Linux 배포판 아래에서 Linux를 사용했고 이번 5월에는 클라우드를 위해 Azure Linux 배포판을 만들었습니다.

애플리케이션 소프트웨어는 더 다양한 이야기입니다. 1960년대부터 1980년대 초반 컴퓨팅 초기에는 대부분의 대기업이 기본적인 회계 장부로 시작하여 MRP 시스템으로 발전하고 나중에는 완전한 ERP 시스템에 이르기까지 자체 백 오피스 애플리케이션 코드를 통제했습니다.

하지만 상업용 데이터 분석이 그 데이터를 다루기 시작했을 무렵, 첫 번째 SaaS 물결과 동시에 상업용 ERP 제품군이 회사들이 애플리케이션에 가진 막대한 기술 부채(technical debt)를 해결하거나 Y2K 버그를 처리하고 최신 인터넷 기술로 전환하는 것이 쉽지 않은 상황에서 충분히 좋아졌습니다. 그래서 그들은 '엿 먹어라'라고 말하며 자신들의 코드를 내던지고 SAP, Oracle, Microsoft 같은 회사들의 서드파티 애플리케이션을 수정하여, 코드에 맞추는 만큼 비즈니스를 바꾸거나(가능한 경우) 비즈니스에 맞추기 위해 코드를 변경했습니다.

그들은 통제권을 속도와 교환했고, 애플리케이션 소프트웨어 제공업체들이 자체적으로 처리하기 어려울 만한 기능과 보안을 추가해 줄 것이라고 베팅하고 있습니다.

새로운 AI 애플리케이션을 배포하거나 기존 애플리케이션에 AI를 보강하는 기업들 역시 같은 선택지에 직면해 있으며, 서드파티 애플리케이션을 운영하는 사람들은 소프트웨어 파트너들이 AI 기능을 추가해주기를 기다리는 경향이 있습니다. 하지만 그들 중 일부는 기존 애플리케이션들을 완전히 갈아엎기보다는 자신들의 AI 스택(AI stack)을 소유하고 이 기존 애플리케이션들을 감싸 안으려는(wrap around) 사람들이 있으며, 이는 마치 ERP, SCM, CRM 제품군에 웹 기술을 추가할 때와 마찬가지로 더 많은 기능에 돈을 쓰려 합니다. 어느 쪽이든 비용을 지불해야 합니다. 소프트웨어 개발자에게 투자하여 시간을 쓰거나, 아니면 소프트웨어 회사들이 작업을 수행하도록 기다리며 그들에게 돈을 지불해야 합니다. 선택과 계산은 거의 명확하게 분명하지 않습니다.

그리고 기록으로 남기자면, 저희 집에서는 이 기술들을 어떻게 작동하는지 보기 위해 OpenAI GPT(Nicole)와 Anthropic Claude(Tim) 모두에 비용을 지불하고 있습니다. API는 저희의 제한적인 사용 사례에는 잘 작동하지만, 저는 대부분의 기업들이 이미 클라우드 환경에 거주하지 않는 한 자신들의 데이터를 외부 모델로 전송하기를 원하지 않는다고 생각합니다. 그들은 자신이 직접 만들거나 유지하는 소프트웨어 제품군 또는 서드파티로부터 구매한 소프트웨어 제품군 근처에 AI 모델을 가지고 싶어 할 것입니다.

Meta Platforms가 모델을 오픈 소스로 공개할지 여부에서 입장을 바꾸고 있으며, Nvidia는 가장 최근에 오픈 소스화한 Nemotron 모델과 에이전트 기반 AI 애플리케이션을 연결하는 워크플로우 매니저에 대해 공격적으로 관대한 조건을 제시하고 있습니다. 이 모든 것이 이번 주 이러한 딜레마를 주요 의제로 끌어올리고 있습니다.

앞서 지적했듯이, Nvidia는 Nemotron 3 모델을 훈련하는 데 사용된 소스 코드, 가중치(weights), 데이터셋을 아낌없이 제공할 여유가 있는 유일한 회사일 가능성이 높습니다. 우리가 보기에는, 여러분이 Nvidia 하드웨어를 위해 지불하는 가격을 고려하면, 그 하드웨어는 당연히 무료여야 합니다. 그리고 놀랍게도, 이는 60년 전 IBM System/360 메인프레임의 애플리케이션 소프트웨어 프로그래밍과 매우 흡사합니다. 당시 IBM은 프로그램 개발팀을 보내 기업들에게 애플리케이션을 만드는 방법을 가르쳤고, 코드는 사용자들에게 오픈 소스였습니다. 그때는 아무도 회사 간에 애플리케이션 코드를 공유할 생각을 하지 않았는데, 이는 전략적 이점이었기 때문입니다.

Meta Platforms가 15년 전 Open Compute Project를 통해 하드웨어를 개방한 것과 React JavaScript 생성기 및 PyTorch AI 프레임워크와 같은 시스템 소프트웨어를 오픈 소스로 공개한 점 모두에 대해 칭찬해야 합니다. 이들은 매우 자기 이익적인 이유로 열렸습니다. 즉, 프로그래머들이 Meta Platforms 방식대로 인터페이스와 AI를 개발하도록 유도하기 위해서였으며, 현명한 자기 이익 추구에는 전혀 문제가 없습니다.

이 회사는 초기 AI 모델을 폐쇄적이고 독점적으로 유지했지만, 2023년 2월에 Llama 3 모델을 출시하고 2024년 4월에 확장하면서 오픈 웨이트(open weight) 방식(하지만 오픈 소스(open source)는 아님)으로 공개했습니다. Llama 4에서는 모델이 더 커졌지만, 이 역시 오픈 소스로 공개된 것이 아니라 오픈 웨이트로 유지되었습니다. 올해 4월에 출시된 최신이자 매우 다른 생성형 AI(GenAI) 모델인 Musk Spark 1.1의 경우 소프트웨어는 폐쇄적이었으나, 다가오는 1.2 버전에서는 Meta Platforms가 오픈 웨이트로 전환할 것이라고 밝혔습니다. 이번 주 발표된 300억 개의 파라미터를 가지고 단일 GPU를 갖춘 PC에서 구동하도록 설계된 더 작은 Muse Glimmer 모델은 처음부터 오픈 웨이트입니다.

재미 삼아, 저는 오픈 웨이트 및 오픈 모델에 대한 거대한 표를 만들었습니다. Anthropic, Google, OpenAI, Amazon Web Services의 독점 모델들의 성능과 속도는 대중에게 제공되지 않습니다. 이 표는 300억 개의 파라미터 이상을 가진 모든 모델을 보여줍니다. 제 생각으로는 그보다 작은 것은 개인 기기에서 사용하거나 제한적인 용도로만 적합합니다. 저는 300억 개의 파라미터를 사고를 위한 최소한의 시냅스 수라고 생각하며, 제가 구동할 수 있는 하드웨어에 맞춰 가능한 한 많은 파라미터를 가진 모델을 선호합니다.

마지막으로 할 말이 있습니다. 더 작은 모델들 중 다수는 대규모 모델(밀집형(dense)이든 전문가 혼합(mixture of experts, MoE) 설계이든 관계없이)을 증류(distilling down)하여 만들어집니다. 이번 주에 발표한 자신의 'AI 선언문'에서 Meta Platforms의 공동 창립자이자 최고 경영자인 Mark Zuckerberg는 회사가 '개인 초지능(personal superintelligence)'이라는 이상을 발전시키면서 얼마나 이타적일 것인지에 대해 많은 이야기를 했으며, 오픈 웨이트 모델이 확실히 그 노력의 일부가 될 것이라고 말했습니다. 또한 그는 미국 내에서 모델 간 증류를 허용해야 한다고 생각한다고 했습니다. (저는 중국은 이미 미국 모델로부터 증류하여 자체 모델을 훈련시키고 있다고 말씀드리고 싶습니다.)

“미국이 오픈 소스 분야를 선도하려면 증류(distillation)와 훈련 데이터 사용을 포함한 여러 영역의 정책을 재고해야 할 것입니다.”라고 Zuckerberg가 말했습니다. “모델이 다른 모델로부터 학습할 수 있는 능력은 오픈 소스 생태계가 작동하는 중요한 원칙입니다. 모든 AI 모델은 인간 지식에서 파생됩니다. 일부는 증류를 해롭다고 규정하려 했지만, 저는 관찰할 수 있는 모든 것으로부터 배울 수 있다는 원칙을 보호하는 것이 중요하다고 생각합니다. 이것이 세상이 돌아가는 방식이며, 우리가 이 부분에 스스로 제한을 가한다면 미국은 선도할 수 없을 것입니다.”

모델들이 서로 평균화될 때 무슨 일이 벌어질지 궁금합니다. 그리고 그것이 가능하다면, GenAI 모델의 추론(inference)을 지원하는 근본적인 하드웨어 외에는 아무도 비용을 청구할 수 없을 것입니다?

우위는 Nvidia에게 있습니다.

하지만 다시 생각해보면, 폐쇄형 모델의 품질이 오픈 모델보다 더 좋게 유지될 수 있다면, 그들은 버티면서 누구에게나 API 접근을 판매하고 온프레미스(on-premises) 사용 사례를 위해 여전히 모델 라이선스를 부여할 수 있습니다.

우위는 더 나은 모델에 있습니다.