폐쇄형(Proprietary) AI는 대부분의 국가와 기업이 의존하기에는 비용이 너무 많이 들고 통제권이 너무 중앙 집중화되어 있습니다.

뉴욕 — "AI의 대부" 중 한 명인 Yann LeCun은 오랫동안 Meta의 수석 AI 과학자로 재직해 왔지만, 유엔 오픈 소스 주간(United Nations Open Source Week) 기조 연설에서는 열광적인 거대 AI 지지 태도와는 매우 다른 입장을 취했습니다. 대신 그는 오픈 소스(open-source) AI가 단순히 있으면 좋은 것이 아니라, 글로벌 AI 주권, 문화적 다양성, 그리고 장기적인 안전을 위한 유일하게 실행 가능한 경로라는 공격적이고 정치적인 논거를 제시했습니다. Zuckerberg, 두고 보세요!

LeCun은 AI를 오늘날의 검색 엔진을 훨씬 넘어, "정보를 포함한 디지털 세계와의 모든 상호작용을 곧 매개하게 될" 인프라 수준의 플랫폼으로 정의했습니다. 그러나 그는 만약 이러한 매개가 "미국 서해안의 빅테크 기업들과 중국"의 몇몇 폐쇄형 시스템에 의해 지배된다면, 그 결과는 "문화적 다양성, 언어적 다양성... 민주주의, 인권에 매우 위험할 것"이라고 경고했습니다.

그의 핵심적인 정치적 주장은 직설적입니다: "제 생각에 그 지점에 도달할 수 있는 유일한 방법은 오픈 소스 AI 플랫폼입니다." 그는 대부분의 국가가 독자적으로 프런티어 규모(frontier-scale)의 모델을 구축할 여력이 없지만, 공유된 오픈 플랫폼이 있다면 기여할 수 있다고 주장합니다: "전 세계 대부분의 국가는 반드시 스스로 LLM(대규모 언어 모델)을 구축할 여력이 없거나, 어쩌면 실제로 구축할 자원이나 인재가 없을 수도 있습니다... 우리가 전 세계적으로 협력하여 수행하는 오픈 소스 노력이 실제로 폐쇄형 시스템을 능가할 수 있는 방법이 있습니다."

모로코, 시에라리온, 자메이카의 국가 대표들은 회의에서 모두 이에 동의했습니다. 오픈 소스 AI (Open-source AI)는 글로벌 사우스 (Global South) 국가들이 단순한 AI 소비자 그 이상이 될 수 있는 유일한 방법입니다. 스페인 인공지능 감독국 (AESIA)의 사무총장인 알베르토 가고 (Alberto Gago)는 이후 기조연설에서, 단순히 규모가 작은 국가들만의 문제가 아니라 우리가 "서로 협력할 수 있는 글로벌 생태계를 공동 설계해야 한다"고 덧붙였습니다. 그는 이를 통해 "AI가 투명하고 공정하며 인간 중심적인 발전의 동력이 되어야 하며, 여기서 디지털 주권 (digital sovereignty)이란 소수의 테크 브로 (techno bros)가 아닌 사회가 우리의 기술적 운명을 결정할 수 있는 능력이라고 믿는다"고 강조했습니다.

LeCun의 주권 비전은 명시적으로 연합형 (federated) 구조를 띱니다. "각 국가, 각 지역, 각 학술 기관 등 무엇이든 자신의 문화적 자료를 디지털화하여 인류의 모든 지식 저장소 역할을 하는 글로벌 AI 시스템 학습에 기여할 수 있지만, 데이터를 직접 전송할 필요는 없습니다. 파라미터 벡터 (parameter vectors)를 교환함으로써 글로벌 모델 학습에 기여할 수 있습니다."

LeCun은 Meta를 떠난 이후의 행보를 이러한 비전에 대한 구체적인 해답으로 제시합니다. Meta를 떠난 후, 그는 AI 얼라이언스 (AI Alliance), Advanced Machine Intelligence Labs, 그리고 "프로젝트 태피스트리 (Project Tapestry)"의 출범을 도왔습니다. 마지막 프로젝트는 "데이터에 대한 주권을 유지하면서 가능한 한 개방적인 방식으로 파라미터 벡터만을 교환하며 글로벌 AI 모델 학습에 기여할 수 있는 파트너들의 연합"입니다.

이 메커니즘은 의도적으로 상향식 (bottom-up)이며 개방적입니다. "태피스트리 프로젝트는 매우 상향식입니다. LLM (Large Language Models) 및 기타 AI 모델 학습에 전문성을 가진 사람들이 GitHub 저장소에서 협업을 결정합니다. 그냥 가입하면 됩니다. 별도의... 승인을 받을 필요가 없습니다."

그는 정치적 지원이 이를 극적으로 가속화할 수 있다고 주장합니다. “물론 이에 대한 정치적 지원이 필요합니다. 정부가 학계와 기업에 이 프로젝트에 참여할 인센티브를 제공한다면, 당연히 더 빠르게 성장할 것입니다.” LeCun은 유럽 국가들(스위스, 영국, UAE, 인도, 카자흐스탄, 베트남, 일본, 한국)의 초기 참여와 IBM, NVIDIA, AMD, Intel과 같은 산업계 플레이어들을 이 프로젝트에 대한 “많은 관심”의 증거로 언급했습니다.

Tapestry는 이제 막 첫발을 내디뎠을 뿐입니다. LeCun은 2027년 초까지 이것이 상용화(production) 단계에 이르기를 희망하고 있습니다.

LeCun은 오픈 소스 AI를 폐쇄형 스택(proprietary stacks)을 대체해 온 오픈 플랫폼의 긴 역사 속에 반복적으로 위치시킵니다. 그는 1990년대 후반을 회상하며, 당시 인터넷 서비스를 시작한다는 것은 “Sun Microsystems, Dell, HP로부터 폐쇄형 하드웨어를 구매한 다음, 그 위에 그들의 폐쇄형 운영체제(operating system)와 소프트웨어를 사용하는 것”을 의미했다고 말했습니다. 그는 사람들이 오픈 소스 소프트웨어 스택을 갖춘 범용 하드웨어(commodity hardware)를 사용하기 시작하면서 그 모델이 “2000년대 초에 완전히 사라졌으며, AI에서도 똑같은 일이 일어날 것”이라고 주장했습니다.

그는 이 비유를 모바일 네트워크로 확장하며, “여러분의 휴대폰은 실제로 정기적으로 오픈 소스 운영체제를 실행하며... 오픈 소스 소프트웨어 스택으로 구동되는 기지국과 통신합니다”라고 언급했습니다. 그의 관점에서 시장의 선호도는 명확합니다. “시장은 오픈 소스 플랫폼을 원합니다. 왜냐하면 더 저렴하고, 더 안전하며, 개인정보 보호를 유지해야 할 경우 현지화(localize)하기가 더 쉽기 때문입니다.”

따라서 그는 오픈 AI로의 전환이 “필연적(inevitable)”이라고 부릅니다. 정부는 이를 수용하고 그 발전을 가속화해야 합니다.

LeCun은 또한 오픈 모델 (open models)의 제한을 정당화하기 위해 사용되는, 과장된 보안 및 실존적 위험 (existential-risk) 논거들에 대해 상당한 시간을 할애하여 비판했습니다. 그는 "AI를 둘러싼 또 다른 담론이 있는데... 이는 본질적으로 AI 기술이 위험하며, 나쁜 사람들이 이를 악용할 것이기 때문에 AI에 대한 접근과 규제가 이루어져야 한다고 주장합니다."라고 말했습니다.

그는 이러한 프레임 (framing)을 단호히 거부합니다: "저는 그러한 위험들이 매우, 매우 과장되어 있다고 생각합니다. 그 위험들이 일부 사람들이 주장하는 것만큼 나쁘다고 생각하지 않습니다." 그는 날카로운 비유를 들었습니다: "보안상의 이유로 AI 기술에 대한 접근을 제한하는 것은, 15세기에 인쇄기 (printing press)의 사용을 제한하는 것과 유사합니다. 인쇄를 통해 어떤 정보가 유포될지 우리가 통제할 수 없기 때문입니다. 따라서 저는 이것이 중세의 암흑시대적 사고 (medieval obscurantism)와 유사하다고 생각합니다."

LeCun에게 있어 더 큰 위험은 추측에 기반한 위협을 사용하여 접근성을 좁히고 주권 (sovereignty)을 약화시키는 것입니다: "만약 당신이 AI가 본질적으로 위험하며 접근을 규제해야 하고, 따라서 오픈 소스 AI (open-source AI)를 금지해야 한다고 믿는다면, 그 대안은 민주주의와 인류 문화 전반에 걸쳐 매우 위험하다고 생각합니다."

그는 또한 구체적인 위험 서사 (risk narratives)에 대해서도 반박합니다. 예를 들어 생물 무기 (bioweapons)에 대해 그는 정보에 대한 접근이 병목 현상 (bottleneck)이 아니라고 언급했습니다: "생물 무기의 제조법을 갖는 것은 비교적 쉽습니다. 하지만 생물 무기를 만드는 것은 믿을 수 없을 정도로 복잡하며, 특히 그것이 당신 자신을 죽이지 않기를 원한다면 더욱 그렇습니다. 이 위험은 엄청나게 과대평가되어 있습니다." 사이버 보안 (cybersecurity)에 대해서는, 공격 능력은 방어 능력과 대칭을 이룬다는 점을 지적합니다: "약점을 탐지할 수 있는 시스템이 있다면, 당신은 그것을 사용하여 당신 자신의 사이버 보안 시스템을 강화하는 데 사용할 수 있습니다."

그의 관점에서 오픈 소스 (open source)는 안전의 적이 아니라, 다양한 가치를 반영하는 검증 가능하고 통제 가능한 시스템을 위한 전제 조건입니다. LeCun의 설명에 따르면, 진짜 위험은 오픈 소스 AI 자체에 있는 것이 아니라, 추측에 기반한 최악의 시나리오를 사용하여 기술을 소수의 기업 및 지정학적 사일로 (silos) 안에 가두는 것을 정당화하는 데 있습니다.

LeCun은 자신의 오픈 소스 옹호론을 기술 집중화에 대한 우려와 직접적으로 연결시키며, 이는 회의의 국제적 청중들에게 공감을 불러일으킨 주제였습니다. 그는 정보 흐름을 매개하는 AI 시스템이 소수의 행위자에 의해 통제된다면, “모든 정보가 반드시 편향될 수밖에 없는 시스템을 통해 전달되는 상황을 감당할 수 없습니다. 편향되지 않은 AI 시스템이란 존재하지 않습니다”라고 경고합니다.

이와 대조적으로, 오픈 플랫폼은 “폭넓은 다양성을 가진 AI 어시스턴트 (AI assistants)”를 가능하게 할 것이며, 그는 이를 미디어의 다원주의 (media pluralism)에 명시적으로 비유했습니다: “우리가 언론의 높은 다양성을 필요로 하는 것과 동일한 이유로, 우리는 매우 높은 다양성의 AI 시스템을 필요로 합니다.” 그는 또한 오픈 소스 플랫폼이 기업의 오용에 대한 해결책이라고 주장합니다. 이윤 중심 기업들에 대한 우려에 대응하며 그는 “이에 대한 해결책은 오픈 소스 플랫폼입니다”라고 강조했습니다.

그의 비전에서 그러한 다양성은 매우 지역적입니다. 연합 파라미터 공유 (federated parameter sharing)를 통해 학습된 개방형 글로벌 모델은 “세상의 모든 언어를 말할 수 있고”, “적어도 기초적인 수준에서 모든 가치 체계, 모든 문화적 편향, 정치 철학, 관심 중심지 등을 이해할 수 있을 것”입니다. 그러면 정부, 기업, 비영리 단체들은 “특정 인구 집단에 봉사하기 위해... 자신들의 목적에 맞게 이를 미세 조정 (fine-tune)할 수” 있게 됩니다.

게다가 LeCun은 현재의 프런티어 규모 (frontier-scale) 폐쇄형 모델 경제학은 지속 불가능하며, 이는 결과적으로 더 작은 오픈 시스템 (open systems)의 필요성을 강화한다고 주장합니다. 그는 “OpenAI의 일반적인 전문가용 구독료는 월 200달러이지만”, “월 200달러를 지불하는 이러한 파워 유저 한 명을 서비스하는 비용은 약 15,000달러에 달한다”는 수치를 인용했습니다. 그는 “이런 상황이 아주 오래 지속될 수는 없다”며, “현재 AI 사용은 투자자들에 의해 보조금을 받고 있는 상태다... 어느 시점에는 가격이 비용에 상응해야 할 것이며, 이는 가격이 올라가거나 추론 (inference) 비용이 급격히 낮아져야 함을 의미하며, 아마 두 가지 모두 해당될 것이다”라고 말했습니다.

개발도상국의 경우, 그는 단기적인 가치의 상당 부분이 “최첨단 초고가 모델”을 필요로 하지 않는다는 점을 강조합니다. 농업 및 유사 분야의 많은 애플리케이션은 “여전히 대규모 언어 모델 (LLMs)을 기반으로 하고 있지만”, “경우에 따라 로컬에서 실행할 수 있는 비교적 단순한 소형 모델”로도 구축될 수 있습니다. 그는 스마트 글래스를 사용하여 작물 질병이나 수확 시기에 대해 AI 어시스턴트에게 질문하는 인도 농부들과의 실험 사례를 설명하며, 이것이 “추론 (inference) 비용이 20배에서 100배 정도 낮아져야만” 실행 가능해질 것이라고 주장합니다. 그의 해답은 오픈 모델 (open models)과 더 저렴하고 효율적인 하드웨어의 결합입니다.

그는 내일은 오픈 소스 AI 모델의 시대가 될 것이라고 결론지었습니다. 오늘날 우리는 미국의 주요 AI 모델과 중국의 AI 모델에 집착하고 있습니다. 하지만 오픈 소스 소프트웨어를 사용하는 기업들이 상업적 인터넷을 시작한 민간 기업들을 대체했듯이, 오픈 AI 접근 방식 또한 오늘날의 지배적인 상업용 AI 주역들을 대체하게 될 것입니다.