America needs an open-source AI strategy

중국이 이 분야에서 계속해서 격차를 벌려감에 따라, 미국의 거대 기술 기업 중 일부는 워싱턴 정부가 오픈 인공지능 (open artificial intelligence)을 국가적 우선순위로 삼도록 압박하고 있습니다.

이들의 메시지는 미국 정책의 공백을 드러냅니다. 미국은 AI를 위한 칩 전략을 가지고 있습니다. 이제는 오픈 모델 (open-model) 전략이 필요합니다.

지지자들은 오픈 모델이 비용을 낮추고, 민감한 데이터를 기업 내부 시스템에 유지하며, 기업들이 소수의 AI 제공업체에 의존하게 되는 것을 방지할 수 있다고 말합니다. 또한 이러한 모델은 더 많은 연구자와 보안 팀이 강력한 모델을 검사하고 약점을 찾을 수 있는 능력을 부여할 수 있습니다.

고객이 OpenAI와 Anthropic이 제어하는 서비스를 통해 접속하는 ChatGPT나 Claude와 달리, 오픈 웨이트 (open-weight) 모델은 다운로드하여 맞춤화할 수 있으며 기업의 자체 컴퓨터에서 실행할 수 있습니다. 이는 모델을 더 저렴하게 만들 수 있으며 사용자에게 데이터와 기술에 대한 더 많은 통제권을 부여할 수 있습니다.

지난주, Nvidia가 주도하는 연합은 미국의 AI 리더십이 강력한 오픈 생태계를 구축하는 데 달려 있다고 주장하는 공개 서한을 발표했습니다. Microsoft, Meta 및 기타 주요 기술 기업들이 이에 서명했습니다. OpenAI와 Google도 나중에 지지를 표명했습니다.

며칠 전 발생한 놀라운 사이버 보안 사고는 왜 이 문제가 중요한지를 보여주었습니다.

내부 테스트 도중, OpenAI 모델이 제한된 환경을 벗어나는 방법을 찾아냈고 AI 플랫폼인 Hugging Face의 시스템을 침해했습니다. Hugging Face가 이를 조사하려고 했을 때, 폐쇄형 상용 모델 (closed commercial models)의 안전 제어 기능이 공격 분석을 차단했습니다. 대신 회사는 자체 인프라에서 실행할 수 있는 중국의 오픈 모델을 사용했습니다.

미국의 폐쇄형 모델이 사고를 일으켰고, 중국의 오픈 모델이 조사를 도왔습니다.

이 사건은 폐쇄형 AI가 항상 더 안전하다는 주장을 복잡하게 만듭니다.

미국은 중국의 첨단 칩 접근을 제한하고, 반도체 제조의 온쇼어링 (onshoring)을 위해 수십억 달러를 투입했으며, 데이터 센터와 전력 인프라의 대대적인 확충을 장려해 왔습니다. 한편, Zhipu 및 Moonshot AI와 같은 중국의 연구소들은 미국 선도 시스템 비용의 극히 일부만으로도 유능한 오픈 모델 (open models)을 출시했습니다.

트럼프 행정부는 현재 중국 모델에 대한 제한을 검토 중인 것으로 알려졌습니다. 하지만 금지 조치가 해당 모델들이 전 세계로 퍼지는 것을 막지는 못할 것입니다. 이는 단순히 미국 개발자들을 소외시키는 결과만을 초래할 수 있습니다.

중국은 오픈 웨이트 (open-weight) AI를 추진할 명확한 동기를 가지고 있습니다. 모든 개선 사항은 강력한 모델을 더 저렴하게 만들며, 폐쇄형 시스템 (closed systems)에 대한 접근 권한에 프리미엄을 부과하는 미국 기업들의 우위를 약화시킵니다.

OpenAI와 Anthropic은 정반대의 동기를 가지고 있습니다. 이들의 비즈니스는 최고의 모델을 독점적으로 유지하는 것에 달려 있습니다. Anthropic의 CEO Dario Amodei는 누구나 다운로드할 수 있는 모델은 모니터링하기가 더 어렵고 악의적인 행위자 (bad actors)에 의해 수정될 수 있다고 경고하기도 했습니다.

그러한 보안 우려는 실재하지만, 중국이 나머지 세계가 그 위에 구축할 토대가 되도록 허용하는 위험 또한 실재합니다.

오픈 소스 (open-source) 경쟁에서 승리하는 방법은 금지가 아니라, 더 뛰어난 구축을 통해 이루어지는 것입니다.

미국은 칩을 지원했던 방식과 마찬가지로, 대학과 스타트업에 컴퓨팅 파워에 대한 접근 권한을 부여하고, 미국의 오픈 모델 개발자들에게 정부 계약을 수여하며, 해당 모델들을 안전하게 실행하는 데 필요한 보안 도구에 자금을 지원함으로써 오픈 AI를 지원할 수 있습니다.

기업들은 이미 대안을 요구하고 있으며, 오픈 모델은 비용을 낮추고 기업이 민감한 데이터를 자체 시스템 내에 유지할 수 있게 해줍니다.

AI 플랫폼 Together AI의 CEO인 Vipul Ved Prakash는 "이 기업들이 보유한 데이터는 진정한 전략적 자산입니다"라고 말했습니다. 그는 강력한 폐쇄형 모델의 제조사에 데이터를 보내는 것은 기업이 자신의 "비즈니스 레시피 (business' recipe)"를 넘겨줄 위험이 있다고 말했습니다.

도입 속도가 빠르게 진행되고 있습니다. 지난 6월 마지막 주 동안, OpenRouter가 추적한 트래픽 중 중국 모델이 차지하는 비중은 48%에 달했으며, 이는 1년 전 20%였던 것과 비교해 크게 상승한 수치입니다. 반면 미국 모델의 비중은 74%에서 32%로 하락했습니다.

AI의 미래는 누가 가장 똑똑한 단일 모델을 만드느냐에 의해 결정되지 않을 수도 있습니다. 그보다는 다른 모든 이들이 실행(run)하는 모델을 누가 만드느냐에 의해 결정될 수 있습니다.

현재 그 주도권은 점점 더 중국으로 넘어가고 있습니다.

CIO: we like China's AI infrastructure stocks, plus consumer and manufacturing 'hidden gems'