Anthropic과 OpenAI는 최근 전략 게시물에서 AI 개발 속도를 늦추는 아이디어를 제기했습니다. @emollick에 따르면, 두 기업은 어떠한 속도 조절이 이루어지려면 아직 식별되지 않은 방법을 사용하여 전 세계적으로 조율된 행동이 필요하다고 밝혔습니다.

주요 사실

• Anthropic과 OpenAI 모두 AI 개발 속도를 늦추는 것을 언급함.
• 게시물은 식별되지 않은 방법을 통한 전 세계적 조율된 행동을 요구함.
• 구체적인 조약이나 검증 체제(verification regime)는 제안되지 않음.
• 시점이 두 연구소 모두의 주요 자금 조달(fundraising) 라운드와 일치함.
• 프레임워크가 실행에 있어 사실상 불가능한 기준을 설정함.

며칠 간격으로 발표된 이 게시물들은 두 선도적인 프런티어 연구소(frontier labs)의 공개적 입장에서 주목할 만한 변화를 나타냅니다. 두 기업 모두 모델 출시나 학습 실행(training runs)을 자발적으로 감속할 가능성을 인정하고 있지만, 이는 전 세계가 동시에 그렇게 하기로 동의할 경우에만 해당됩니다.

두 게시물 모두 그러한 조율이 어떤 형태를 취할지는 명시하지 않았습니다. 구체적인 메커니즘 — 제안된 조약, 검증 체제, 임계값 트리거(threshold trigger) 등 — 의 부재는 이러한 성명이 운영상의 약속이라기보다는 주로 정치적 신호로서 기능함을 의미합니다.

타이밍은 주목할 만합니다. 두 연구소는 현재 기업용 계약과 파운데이션 모델(foundation model)의 주도권을 잡기 위한 경쟁적인 레이스에 몰두하고 있습니다. OpenAI는 최근 1,570억 달러의 기업 가치로 66억 달러 규모의 라운드를 마감했으며, Anthropic은 300억~400억 달러의 기업 가치로 20억 달러를 유치하려 노력 중인 것으로 알려졌습니다. 어떠한 일방적인 속도 조절도 Google, Meta, 그리고 증가하는 오픈 웨이트(open-weight) 모델 개발자 그룹을 포함한 경쟁사들에게 시장 점유율을 양보하는 결과가 될 것입니다.

'전 세계적인 조율(coordinated across the entire world)'이라는 프레임워크는 사실상 도달하기 거의 불가능한 기준을 설정하는 효과가 있습니다. UN과 OECD에서 진행된 국제 AI 거버넌스(AI governance) 논의는 구속력 없는 원칙들을 만들어냈을 뿐, 집행 메커니즘(enforcement mechanisms)은 마련하지 못했습니다. 중국, 미국, 그리고 EU는 규제의 범위와 속도에 대해 매우 상이한 견해를 가지고 있습니다.

프런티어 연구소(frontier labs)들이 속도 조절 아이디어를 제기한 것이 이번이 처음은 아니지만, '아직 식별되지 않은 방법들(as-yet-unidentified methods)'과 명시적으로 결합한 것은 새로운 접근입니다. 두 회사 모두의 이전 성명들은 내부 안전 프로세스(safety processes), 레드팀(red-teaming), 그리고 책임 있는 확장 정책(responsible scaling policies)에 집중했습니다. 글로벌 조율을 요구하는 방향으로의 전환은 사실상의 헤지(de facto hedge)를 의미합니다. 즉, 기업들은 실제적인 조건이 충족될 가능성이 낮다는 것을 알면서도 원칙적으로는 속도 조절을 지지한다고 주장할 수 있습니다.

이 게시물들은 일종의 규제 포지셔닝(regulatory positioning)으로 읽어야 합니다. 조율된 속도 조절이라는 개념을 공개적으로 지지함으로써, 연구소들은 향후 정책 논쟁을 위한 오버턴 창(Overton window)을 형성합니다. 또한 이들은 가속을 지속하면서도, 무모한 가속을 한다는 비난으로부터 스스로를 면역(inoculate)시킵니다.

관전 포인트

두 연구소 중 어느 곳이라도 구체적인 방법을 명시하는 후속 조치를 취하는지, 혹은 제3자(예: 정부 또는 다자간 기구)가 조율 프레임워크를 제안하는지 지켜봐야 합니다. 이 게시물들에 세부 사항이 결여되어 있다는 점은 속도 조절 아이디어가 단기적인 정책 목표라기보다는 수사적 장치(rhetorical device)로 남아 있음을 시사합니다. 또한, 어떤 프런티어 연구소라도 2026년에 일방적으로 학습 실행(training runs)을 중단하는지 추적하십시오.

_ [09년 6월 업데이트, wired_ai를 통해]

두 연구소의 전략적 태도는 이제 병행되는 재정적 경쟁의 그림자에 가려져 있습니다. Anthropic이 불과 일주일 전 유사한 신청을 한 데 이어, OpenAI도 비밀리에 기업공개(IPO)를 신청했습니다 [WIRED 보도]. 이러한 이중적인 IPO 행보는 AI 속도 조절에 관한 공개적인 입장 표명에 새로운 상업적 긴박함을 불어넣고 있습니다. 두 회사 모두 이제 공개 시장의 정밀 조사(scrutiny)를 준비하고 있으므로, 만약 가상의 조정된 속도 조절이 이루어진다면 성장과 수익에 대한 주주들의 기대치로부터 추가적인 압박에 직면하게 될 것입니다. IPO 신청 서류들은 두 연구소가 자본 시장에 집중함에 따라, 글로벌 조율을 위한 '아직 확인되지 않은 방법들'이 여전히 실현되기 어려울 수 있음을 시사합니다.

_ [06년 6월 업데이트, wired_ai를 통해]_

The Decoder에 따르면, OpenAI의 CEO Sam Altman은 IPO 과정을 "복잡한 상충 관계(tradeoffs)의 집합"이라고 설명하며 구체적인 일정 설정은 거부했습니다. SEC(미국 증권거래위원회)에 제출된 비밀 S-1 신청은 Anthropic의 유사한 행보보다 불과 일주일 뒤에 이루어졌으며, 이는 두 AI 경쟁사 간의 공개 시장 경쟁을 심화시키고 있습니다.

원문 게시: gentic.news