AI 안전 우려가 커지자, 세 명의 선구자가 개방성을 유지해야 한다고 주장하다

Pacing the Frontier와 같은 프로젝트들이 AI 연구를 안전하게 진행하기 위해 주요 연구소에 의존하면서, 오픈 소스 모델은 업계에서 민감한 부분이 되었습니다. 무료 배포가 가능하고 사용 방식에 대한 통제가 거의 없기 때문에, 오픈 가중치(open-weight) 모델은 쉽게 통제할 수 없으며, 일부 연구소들은 이를 매우 위험하게 간주합니다.

하지만 지난주 라스베이거스의 Ai4 컨퍼런스에서 세계적으로 가장 존경받는 AI 연구가 세 명의 인물—노벨상 수상자 Geoffrey Hinton, World Labs CEO 겸 공동 창립자 Fei-Fei Li, 그리고 Coursera 공동 창립자 Andrew Ng—이 이 문제에 대해 연설했습니다. 그들은 특정 전술에 대해서는 의견이 달랐지만, 세 사람 모두 AI를 개방 상태로 유지해야 한다는 강력한 주장을 펼쳤습니다.

세 연사들에게 핵심적인 우려는 소수의 거대 AI 기업들이 기술 발전의 속도를 통제하는 것을 막는 것이었습니다. 몇몇 회사들이 기술 접근성을 통제할 때(예: Apple과 Google이 모바일 운영체제를 다루는 것처럼), 혁신은 느려질 수 있고 플랫폼을 장악한 회사들은 그 위에서 무엇이 만들어질지 영향을 미칠 수 있습니다.

Andrew Ng는 AI에서도 유사한 역동성이 생길까 우려한다고 말했습니다. 그는 “게이트키퍼(gatekeepers)가 존재해서는 안 됩니다”라며, “그것은 우리 모두가 AI에 접근하는 방식을 제한하기 때문입니다”라고 말했습니다.

회사들은 산업을 지배하는 규칙에 영향을 미치는 것을 포함하여 자신들의 경쟁 우위를 보호할 인센티브를 가지고 있습니다. 이는 가장 크고 자본력이 좋은 회사들만이 가장 진보된 AI 시스템을 구축할 자원을 갖는 역동성을 만들 수 있습니다.

Ng의 해결책은 소수의 플레이어가 분야를 지배하게 하는 대신, 모델과 회사들이 경쟁하는 다중 공급자(multiple providers) 체제를 유지하는 것이었습니다. 그는 “제가 한 가지 처방전을 제시해야 한다면, 개방성을 증진시키는 것일 것입니다”라며, “AI는 놀라운 기술이고 저는 그것이 모두의 손에 있기를 바랍니다”라고 말했습니다.

하지만 모든 사람이 개방 가중치 모델(open-weight models)이 그러한 상황을 유지하는 데 도움이 될 것이라는 점에 동의한 것은 아니었습니다. 특히 Hinton은 근본적인 코드를 검사하고 수정할 수 있도록 하는 오픈 소스 소프트웨어와, 훈련된 AI 모델의 매개변수(parameters)를 대중에게 공개하는 개방 가중치 모델 사이에 차이점을 두었습니다.

Hinton은 “오픈 소스는 훌륭합니다. 사람들에게 코드를 보여주고, 많은 사람들이 코드 줄을 보고 ‘아, 버그가 있네’라고 말하게 합니다. 개방 가중치는 큰 모델을 훈련시킨 다음 그 가중치를 사람들에게 주는 것을 의미합니다. 그것은 매우 다릅니다”라며, “저는 개방 [가중치]에 반대했습니다. 왜냐하면 사람들이 트레이닝하는 데 비용이 많이 드는 이 거대한 기반 모델(foundation models)들을 가져다가 훨씬 적은 돈으로 사이버 공격과 같은 나쁜 일을 하도록 훈련시키는 것이 너무 쉬워지기 때문입니다.”라고 말했습니다.

하지만 그의 우려에도 불구하고, Hinton은 개방 가중치 모델이 이미 AI의 영구적인 요소가 되었음을 인정했습니다. “저는 그 싸움은 이미 패배했다고 생각합니다. 우리는 이제 개방 가중치 모델을 가지고 있으므로, 이 거대한 모델들을 많은 사람들이 얻는 데 걸림돌이었던 기반 모델 훈련 비용이라는 장벽은 사라졌습니다. 너무 늦었습니다.”

그럼에도 불구하고 현실을 받아들인다고 해서 위험을 무시한다는 의미는 아니었습니다. Hinton의 입장은 명확했습니다. AI는 계속 발전할 것이며, 그는 그것이 대체로 좋은 일이라고 생각했습니다. 그는 이것이 생산성을 높이고 교육 및 의료를 개선할 것이라고 말했습니다. “AI의 가능한 나쁜 영향이나 지적인 존재들이 우리보다 더 똑똑해졌을 때 할 수 있는 것들에 대해 걱정하는 것은 부당하다고 생각하지 않습니다. 그런 생각을 하는 사람들을 공포 조장가(fear-monger)로 낙인찍는 것이 부당하다고 생각합니다.”라고 Hinton은 덧붙였습니다.

Ng은 다른 견해를 제시했습니다. 그는 개방형 모델 자체가 위험한지 여부가 아니라 누가 접근을 통제하고 시장에서 누가 승리할 것인지가 문제라고 주장했습니다. 더 저렴한 모델을 구축하는 사람이 우위를 점하게 될 것이라고 말했습니다. 그는 중국의 개방 가중치(open-weight) 모델이 아시아, 아프리카 및/또는 개발도상국 전반에 걸쳐 광범위하게 채택된다면, 수십억 명의 사람들이 민주주의, 자유, 인권에 대한 아이디어를 접하는 방식에 영향을 미칠 수 있다고 경고했습니다.

Ng은 “제가 바라는 한 가지는 미국의 경쟁력과 오픈 소스 AI를 장려하는 것입니다. AI가 엄청난 소프트 파워의 원천이라는 것을 알게 되었습니다. 예를 들어 중국 모델이 아프리카에서 얼마나 큰 성과를 거두었는지 보실 수 있습니다.”라고 말했습니다. “하지만 저의 걱정은 미국 내 모든 로비 활동과 공포 조장(fear-mongering) 때문에 오픈 소스 AI를 구축하는 것이 중국에서 나오는 개방 가중치 모델과 경쟁하기 어려워지고 있다는 것입니다. 그리고 저의 우려는 만약 중국이 AI를 구축할 근본적으로 더 비용 효율적인 방법을 알아낸다면, 더 비용 효율적인 것들이 근본적인 비즈니스 채택 우위를 갖게 된다는 것입니다.”

Li는 이러한 틀짓기에 반박했습니다. 그녀는 “완전한 개방성부터 완전한 폐쇄성까지 이를 이분법(dichotomy)으로 만드는 것은 매우 위험합니다.”라고 말했습니다. “복잡한 소프트웨어 시스템뿐만 아니라 과학 시스템에서도 훨씬 더 미묘합니다.”

Li는 핵물리학을 예로 들었습니다. 과학 논문은 공개적으로 출판되지만, 우라늄은 규제되며, 실험실 작업은 그 중간 어딘가에 속한다는 것입니다. 그녀는 교훈은 개방성이 전면적이거나(all-or-nothing) 선택일 필요는 없다는 것이라고 설명했습니다. 생태계의 서로 다른 계층들이 서로 다른 수준의 개방성으로 운영될 수 있다는 것입니다.

그녀는 또한 인간 게놈 프로젝트(Human Genome Project)와 같은 공공 및 민간 기관 간의 협력을 강조했습니다. 그 결과로 얻은 지식은 다른 사람들이 기반을 다질 수 있는 플랫폼이 되었고, 이를 통해 제약 회사들은 이익을 얻고, 과학자들은 연구를 발전시키며, 사회는 혜택을 받을 수 있게 되었다고 말했습니다.

리(Li)는 "따라서 우리는 [AI]를 일종의 인프라로 사용해야 한다고 생각합니다."라고 말했습니다. "우리는 과학적 발견, 교육, 글로벌 파트너십뿐만 아니라 기업가들을 위한 수익성 있는 비즈니스 모델 전반에 걸쳐 어느 정도의 개방성이 필요합니다. 하지만 우리는 클로즈드 소스(closed-source) 시스템도 받아들일 것입니다. '오직 하나만을 용인할 수 있다'와 같은 광범위한 수준에서의 논쟁은 허위 논쟁입니다. 우리는 미묘한 차원의 단계에 도달해야 합니다."

하지만 모두가 AI를 올바른 궤도에 유지하기 위해서는 어느 정도의 규제가 필요하다는 점에는 동의했습니다. Hinton은 "우리가 하고 싶은 것은 사람들에게 도움이 되는 방향으로 AI를 개발하는 것이고, 규제가 우리를 그렇게 하는 데 도움을 줄 것입니다."라며, "AI가 어떻게 되어야 할지 엘론 머스크(Elon Musk)나 마크 저커버그(Mark Zuckerberg) 같은 사람들에게 맡길 수는 없습니다."라고 말했습니다.