2026년 8월 2일

AI 개발에 관한 공개 서한

Open Weights and American AI Leadership는 Microsoft가 주도하여 7월 24일에 작성되었으며, NVIDIA, Amazon, Y Combinator, The Linux Foundation 및 (나중에 서명한) OpenAI를 포함한 235개 AI 관련 기업들이 서명했습니다.

이는 현재 미국 정부가 '안전성' 우려로 인해 오픈 웨이트 모델을 금지하거나 제한하려는 모든 충동에 맞서기 위해 고안된 주장임이 분명합니다. Claude Fable 5에서 발생한 일을 고려할 때 이는 합리적인 고려 사항입니다!

오직 클로즈드 모델(closed models)에만 의존하는 것은 본질적으로 안전하지 않습니다. 이들은 침해되거나, 오용되거나, 외부인이 감지할 수 없는 방식으로 실패할 수 있습니다. 그리고 고급 AI 기능을 소수의 클로즈드 모델 뒤에 집중시키는 것은 그 위험을 가중시킵니다. 이는 소수의 단일 장애점(single points of failure)을 초래하고, 경쟁을 약화시키며, 중요한 기술을 몇몇 제공업체의 손에 남겨둡니다. 반면에 오픈 웨이트 모델은 광범위한 연구원과 개발자 커뮤니티가 그 행동을 검토하고, 취약점을 식별하며, 안전장치를 개발하고, 시간이 지남에 따라 개선할 수 있도록 합니다.

이 서한에서 놀라운 점 하나는 다른 모델의 출력으로 학습하는 증류(distillation)를 지지한다는 것입니다:

이러한 생태계를 조성함에 있어 정책 입안자들은 합법적인 모델 개발 기술과 부적절한 사용을 혼동하지 않도록 주의해야 합니다. 증류, 즉 한 모델의 출력을 사용하여 다른 모델을 훈련하거나 개선하는 관행은 모델 개선, 평가 및 검증을 위한 광범위하게 사용되는 기술입니다. 이는 기존 기술로부터 학습하고, 기반을 다지고, 개선해 온 오랜 전통을 반영하며, 이 전통은 오픈 소스 소프트웨어 운동의 부상 이후 혁신을 주도하는 데 도움을 주었습니다.

서명에서 눈에 띄게 누락된 곳은 Anthropic입니다. 이들은 3일 후 자체 답변인 '오픈 웨이트 모델(open-weights models)에 대한 우리의 입장'을 발표했습니다. CEO Dario Amodei는 권위주의 정부가 "미국이 구축한 모델보다 더 강력한 AI 모델을 구축할 위험"과 모델이 "사이버 공격이나 생물학적 공격을 수행하는 데 오용될 위험"을 거듭 강조했습니다. 또한 그는 "산업적 규모의 증류(distillation) 작업에 대한 단속"을 촉구하는 한편, "Anthropic은 오픈 웨이트 모델에 대한 금지를 결코 주장한 적이 없다"라고 밝혔습니다.

그 후 7월 28일, Jakub Pachocki (OpenAI 수석 과학자), Ilya Sutskever (Safe Superintelligence Inc, 전 OpenAI), Dario Amodei (Anthropic), Jack Clark (Anthropic) 등의 이름이 포함된 "프런티어 AI 기업 직원 1,324명"의 서명이 담긴 'Pacing the Frontier'가 발표되었습니다. 이들의 핵심 메시지는 다음과 같습니다:

우리는 미국 정부가 자동화된 AI 개발의 프런티어(frontier)를 의도적으로 조절(pace)하는 데 필요한 기술적 및 거버넌스(governance) 도구를 개발하기 위한 국제적 노력을 지원할 것을 요청합니다.

이들의 우려는 자동화된 AI 연구로 인해 가속화된 AI 발전과 결합된 극심한 경쟁 압박입니다. Anthropic이 코드의 80%를 Claude Code로 생성하고, OpenAI가 Sol을 통해 엔드 투 엔드(end-to-end) 서빙 비용을 20% 절감했으며, Kimi K3가 자체 아키텍처를 기반으로 구축된 나노 모델을 서빙하기 위해 칩을 설계했다는 점을 고려하면, 왜 사람들이 현재 그 위험을 더 심각하게 받아들이고 있는지 알 수 있습니다.