Cut Off

곧 프론티어 (Frontier) AI에 대한 접근은 희소해지고 선택적으로 변할 것입니다

AI 정책 사고의 주변부에는 흔히 통용되는 주문이 있습니다. 시장의 압력과 과열된 자본 시장에 의해 AI 토큰 (tokens)은 곧 풍부해질 것이며, 미래는 그것을 가장 잘 사용하는 사람들의 것이 될 것이라는 믿음입니다. San Francisco에서 멀어질수록 이 주문은 더욱 커집니다. 이 믿음은 주변부, 즉 단순히 '충분히 괜찮은' 모델을 바탕으로 AI 혁명을 헤쳐 나가려는 계획에 여전히 매몰되어 있는 세계의 수많은 중견국가(middle powers)에서 절정에 달합니다. 그러한 관점은 중요한 AI 역량이 널리 접근 가능해야 함을 전제로 합니다. 즉, 방어자가 공격자보다 먼저 모델에 접근할 수 있어야 하며, 모든 분야의 기업들이 동일한 AI 역량에 대한 접근성을 바탕으로 경쟁해야 한다는 것입니다.

최근의 사건들은 그러한 관점을 뒤흔들어 놓았으며, 이제 프론티어 (frontier) AI에 대한 접근은 곧 경제적 및 보안적 제약으로 인해 제한될 것임이 분명해 보입니다. 4월 초, Anthropic은 선도적인 사이버 보안 모델인 Mythos를 개발했으며, 기존의 취약점을 패치하는 그들의 상당한 능력을 선택된 소수의 기업에만 제공할 것이라고 발표했습니다. Mission District의 사이버 보안 스타트업, 동부 해안(Eastern Seaboard)의 시스템 통합업체(systems integrators), 그리고 대서양과 태평양 연안의 동맹국 수도들은 모두 유사한 경험을 했습니다. 페이지를 아래로 스크롤하며 특권적 파트너 목록을 확인했지만, 결국 미국에 기반을 둔 소수의 기업들만을 발견했을 뿐입니다.

아마 여러분은 OpenAI가 선호하는 출시 방식을 고수할 것이라고 희망했을지도 모릅니다. 즉, Mythos와 성능 면에서 유사하다고 알려진 모델인 gpt-5.5-cyber를 더 광범위하게 출시할 것이라고 기대했을 것입니다. 하지만 그렇게 되지 않았습니다. OpenAI는 그들의 Daybreak 이니셔티브에서도 제한된 출시를 약속했으며, 이는 이번 사례가 단순한 우연이나 '둠머 (doomer)' 마케팅이었다는 희망을 불식시켰습니다. 설상가상으로, 미국 정부를 포함해 그 누구도 미국 정부가 이 모든 상황에 대해 정확히 무엇을 할지는 아직 명확히 알 수 없지만, 모든 보고에 따르면 적어도 어느 시점에는 무언가를 할 계획을 세우고 있습니다. 이를 단순히 현재 사건들의 결합으로 치부하기 쉽지만, Mythos의 순간은 사실 한동안 가속화되어 온 구조적 트렌드를 드러냅니다.

Mythos와 현실

세 가지 트렌드—컴퓨팅 자원 (compute), 보안 (security), 그리고 미국 정부의 개입—가 향후 프론티어 AI (frontier AI)의 가용성을 더욱 제한할 것입니다. 이 요소들은 서로 결합하고 강화하며, 최근 몇 주와 몇 달 사이에 급격히 가속화되었습니다. 미국 기반 개발자들의 핵심 내부 그룹(inner circle) 밖에 있는 모든 이들은 이 사실을 직시해야 합니다.

보안 및 증류 (Security & Distillation)

보안 및 증류 (Security & Distillation)

광범위한 가용성에 대한 첫 번째이자 가장 명백한 제약은 우리가 Mythos의 맥락에서 보았던 것과 같습니다. 즉, 보안 고려 사항으로 인해 개발자들이 모든 유료 고객에게 최고 수준의 성능을 제공하는 것이 차단됩니다.

전형적인 이야기는 오용 위험 (misuse risks)에서 시작됩니다: 매우 유능한 새로운 모델이 사이버 공격이나 생물학 무기 설계와 같은 위험한 활동을 수행하는 데 현실적으로 유용해 보일 때 발생합니다. 모델을 즉시 일반 대중에게 출시하는 대신, Mythos의 사례에서 보았듯이 방어자들에게 먼저 배포하여 그들이 조기 접근 권한을 통해 취약점을 보완할 수 있도록 할 수 있습니다. 그 후, 모델을 범죄 목적으로 노골적으로 남용하지 않을 것이라고 합리적으로 확신할 수 있는 고객들에게만 일부 모델을 출시하는 방식을 취합니다. 그리고 아마도 모델이 더 이상 최첨단 (state-of-the-art)이 아니게 된 후에야 모든 사람에게 출시하게 될 것입니다.

이미 지금 우리는 두 번째 단계를 목격하고 있습니다. 바로 미국 정부가 이러한 제한적 접근 방식이 국익과 국가 안보(national security) 모두에 더 유리하다는 점을 깨닫고, 선례가 된 이 선순환적 사례를 일반적인 규칙으로 만들려는 아이디어를 검토하기 시작한 것입니다. 국가 안보 기구가 이렇게 행동하는 데에는 많은 이유가 있습니다. 아마도 그들은 AI 개발자들이 위험한 능력을 똑같이 위험한 범죄자, 비국가 행위자(non-state actors) 및 적대 세력으로부터 격리할 것이라고 신뢰하지 않을 수도 있습니다. 또는, 그들이 이전에 해왔던 것처럼 새로운 모델이 어떤 취약점(exploits)을 드러내려 하는지 미리 알고, 그것을 자신들이 먼저 사용하고 싶어 할 수도 있습니다. 달리 말하자면, 만약 내가 NSA(미 국가안보국)이고 일련의 제로데이(zero-days)를 보유하고 있다면, 나 역시 Mythos가 그중 어떤 것을 찾아낼 수 있는지 알고 싶을 것입니다. 그래야 모든 사람이 온라인에서 패치(patch)를 받기 전에 그것을 나에게 유리하게 사용할 수 있기 때문입니다.

오용(misuse) 위험 외에도, 가용성에 대한 더욱 직접적인 단속을 유발할 수 있는 또 다른 차원이 있습니다. 바로 모델 도난, 스파이 행위 및 증류(distillation)의 위험입니다. 전자의 경우 개발자들이 모델을 어디에 호스팅할지에 대해 경계하게 만들 것입니다. 보안되지 않은 데이터 센터에 있는 가중치(weights)는 상당한 취약점이 될 것이며, 미국 이외의 많은 국가는 데이터 센터를 보안하는 것에 대해 생각조차 시작하지 않았습니다. 하지만 후자인 증류(distillation)가 더 시급한 문제입니다. 여러 보고서에 따르면, 중국의 DeepSeek와 같이 프론티어 모델보다 6~9개월 뒤처진 이른바 '패스트 팔로워(fast followers)' 모델 개발자들의 성공 사례 중 일부는 API 토큰에 대한 거의 무제한적인 접근을 필요로 하는 증류(distillation) 관행에 기반하고 있습니다.

증류 (Distillation)는 모델 개발자들에게 장기적으로 지속 가능하지 않습니다. 누군가 당신의 모델을 증류하기 전까지의 6개월 안에 모든 R&D 투자를 회수해야 한다면, 충분한 수익을 확보하기가 매우 어려울 것이기 때문입니다. 이 지점은 정치인들에게 매우 두드러지게 다가오며, 미-중 경쟁 및 산업 스파이 행위에 대한 잠재적 우려를 정확히 파고듭니다. 따라서 정부가 아니더라도 개발자들에 의한 증류 단속을 예상하게 됩니다. 즉, 더 까다로운 KYC (Know Your Customer, 고객 확인 절차), 더 제한적인 기본 접근 권한, 더 지정학적인 동기에 의한 접근 조건 등이 나타날 것입니다. 이 중 그 어느 것도 광범위한 프론티어 (frontier) 접근에는 좋은 징조가 아닙니다.

컴퓨팅 부족 (Compute Crunches)

컴퓨팅 부족 (Compute Crunches)

하지만 문제는 보안 우려에서 끝나지 않습니다. 더 근본적으로, 프론티어 모델에 대한 접근을 제공하는 것은 제로섬 게임 (zero-sum game)입니다. 기술 산업의 베테랑들과 유럽의 주권론자들(sovereignty hawks) 모두 소프트웨어 라이선스와의 유사성을 언급하기를 좋아합니다. 즉, 소프트웨어 혁신에 어느 정도의 한계적 의존성 (marginal dependencies)이 따랐을지라도, 결국에는 소비자 시장 규모의 논리가 승리했다는 점입니다. Microsoft 등을 포함한 기업들은 모든 사람에게 소프트웨어를 배포하면서 발생하는 낮은 한계 비용을 전체 시장 가격으로 보상받았습니다. 하지만 프론티어 AI는 그렇지 않습니다.

AI 모델, 특히 최첨단 (bleeding edge) 모델에 대한 접근을 제공하는 데는 막대한 양의 컴퓨팅 자원 (computational resources)이 소요됩니다. 추가로 천 개의 토큰을 처리하기 위한 한계 컴퓨팅 수요 (marginal compute demand)는 매우 높습니다. 실제로 선도적인 개발자들은 반복적으로 컴퓨팅 부족 (compute crunches) 현상에 직면하고, 제공 서비스를 축소하며, 소비자 구독 서비스에 대한 보조금 지급과 보유한 칩 (chips)의 실제 제약 사이에서 균형을 맞추기 위해 고군분투하고 있습니다. Anthropic의 경우 컴퓨팅 부족 상황이 매우 심각하여, 현재 경쟁사인 xAI가 보유한 것과 같이 활용도가 낮은 데이터 센터 (datacenters)에 대한 임시 접근 계약을 알아보고 있을 정도입니다. 이러한 상황은 나아지기보다 악화될 가능성이 높아 보입니다. 만약 AI 시스템이 몇 달 안에 정말로 인간 노동자의 결과물과 경쟁할 수준에 도달한다면, 그만큼의 인간 활동을 재현하는 데 필요한 토큰의 양은 엄청날 것입니다.

'효율성 곡선 (efficiency curves)'이 토큰 비용을 빠르게 압축할 것이라는 자주 언급되는 희망은 이 상황에서 우리를 구원해주지 못합니다. 효율성 곡선은 내년에 Mythos 수준의 역량이 매우 저렴해질 수 있음을 의미할 뿐, Mythos 2가 Mythos보다 더 저렴해질 것임을 의미하지는 않습니다. 오히려 그 반대입니다. 프론티어 역량 (frontier capabilities)은 지난 수년간 매달 더 비싸져 왔습니다. 따라서 만약 당신이 저처럼 경제적 경쟁자 및 공격자와 방어자 사이의 경쟁 역학으로 인해 '충분히 좋은 (good enough)' AI뿐만 아니라 '최고의 (the best)' AI가 필요하다고 믿는다면, 효율성 곡선은 당신을 구해내지 못할 것입니다.

이는 새로운 사용자—국가 또는 기업—에게 접근 권한을 제공하는 한계 비용 (marginal cost)이 높다는 것을 의미합니다. 커버리지를 확장하는 것에는 여전히 가치가 있습니다. 즉, 역량이 확장되었을 때를 대비한 신규 시장 진입, 가격 인상을 위한 수요 증대, 정부와의 우호 관계 구축 등이 그것입니다. 하지만 이러한 이점들은 비용과 상충합니다. 신규 시장 진입에 따른 컴플라이언스 (compliance) 비용, 새로운 소비자에게 맞추기 위한 제품 설계 비용, 그리고 이 글에서 설명한 보안 및 미국 정부와의 관계 측면에서의 비용이 발생합니다. 시장 지배력 효과 (market power effect)가 완전히 역전된 것은 아니지만, 강력하게 약화되었습니다. 즉, 접근 권한을 확보하는 데 있어 '관심 있는 구매자'로서의 역할이 큰 비중을 차지할 것이라고 기대할 수 없습니다.

이러한 추세에 직면하여, 누가 이 토큰 (tokens)에 대한 접근 권한을 얻을 것인가를 둘러싼 경쟁이 발생한다는 사실은 상황을 더욱 복잡하게 만듭니다. 미국은 자국 경제를 보호하려 할 것이며, 저는 몇 달 전 GAIN 법안 제안을 움직였던 것과 동일한 논리가 다시 등장할 수 있다고 생각합니다. 당시 옹호론자들은 미국인들에게 미국산 칩에 대한 우선 거부권 (right of first refusal)을 부여하는 아이디어를 검토하고 있었습니다. 머지않아, 아마도 미국 기업들이 미국에서 생산된 지능 토큰 (tokens of intelligence)의 최우선 구매자 (buyers of first resort)로 선언될지도 모릅니다. 또는 경쟁이 순수하게 경제적인 방향으로 흘러가 마진이 극도로 얇아지게 되고, 비용을 감당할 수 있거나 API 토큰을 가장 효과적으로 수익으로 전환할 수 있는 이들만이 이를 감당할 수 있게 될 수도 있습니다. 과연 누가 그 주인공이 될까요? 제 생각에는 수백만 달러 규모의 AI 구독 논리를 내재화하지 못한 정부도 아닐 것이며, 수많은 불리한 조건들로 인해 소프트웨어 수익을 창출하는 능력이 제약된 유럽 기업들도 아닐 것입니다.

미국 정부가 도와주기 위해 여기 있습니다

미국 정부가 도와주기 위해 여기 있습니다

마지막으로, 순수하게 진정한 우려에 의해 시작된 제한이 항상 그 상태로 머무는 것은 아닙니다. 프론티어 토큰 (frontier tokens)의 흐름을 감독하는 데 있어 보다 공식적인 역할을 맡게 되면, 미국 정부는 자신의 정치적 및 전략적 이익을 추구하기 위해 접근 제어 (access control) 권한을 휘두를 수도 있습니다. 이는 보안 우려에서 시작됩니다. NSA (미국 국가안보국)의 사례를 다시 살펴보면, 전 세계에 AI 역량을 공평하게 확산시키는 것은 분명 NSA의 이익이나 임무에 부합하지 않습니다. 대신, 경제적 생산성이나 동맹 관계와 같은 부드러운 이점 (soft upsides)을 희생시키더라도 잠재적 적대국의 접근을 제한하는 것이 정보 공동체 (intelligence community)의 DNA에 더 가깝습니다.

그리고 이는 보안 문제에서 끝나지 않습니다. 트럼프 행정부의 특징적인 국제 관계 방식은 미국의 영향력 (leverage)을 하나의 묶음으로 휘두르는 것입니다. 무역 협상의 교착 상태는 정보 제공을 중단하겠다는 위협으로 타개되며, 기술 거래는 식품 안전 표준을 언급함으로써 지연됩니다. 따라서 저는 미국 행정부가 더 넓은 이익을 확보하기 위해 프론티어 모델 (frontier models)에 대한 겉보기에 불가피한 사전 배치 권한 (predeployment authority)을 언제 활용하기로 선택할지는 알 수 없지만, 때가 되면 분명히 그렇게 할 것이라고 확신합니다. 이는 우리가 보안과 경제 측면에서 모든 것을 '올바르게' 수행하더라도, 정부 간의 전략적 이익 사이에 차이가 존재하는 한 프론티어 접근 권한은 근본적으로 조건부(contingent)가 될 것임을 의미합니다.

다음 균형 (The Next Equilibrium)

그 새로운 세상에서, 무제한적인 API (Application Programming Interface) 접근은 규범이 아닌 예외가 될 것입니다. 새로운 프론티어 모델 (Frontier model)은 먼저 미국의 국가 안보 체계 (national security apparatus)에 도달할 수도 있으며, 그곳의 내재된 이해관계자들은 보안상의 이유로 배포를 지연시키거나, 방어 체계를 구축하거나 적대 세력을 공격하는 데 모델을 먼저 활용하기로 결정할 수도 있습니다. 그 후 모델은 개발자들에게 다시 전달될 수 있지만, 이때 신뢰할 수 있는 방어자들, 즉 미국 기업들과 운이 좋다면 소수의 국제 기업들에게 먼저 출시될 것이라는 암묵적인 이해 또는 명시적인 요구가 수반될 것입니다. 만약 리스크가 사이버 보안 (cybersecurity) 관련이라면 방어자들이 이를 빠르게 해결할 수 있겠지만, 만약 생물학적 리스크나 에이전트 자율성 (agent-autonomy) 기반의 더 까다로운 리스크라면 해결에 몇 주가 더 걸릴 수도 있습니다.

그 단계가 지나면, 제약 없는 접근 권한의 범위는 높은 KYC (Know Your Customer) 기준과 미국의 보안 우려를 통과한 기업들로 다시 확장될 수 있습니다. 그 외의 모든 이들, 즉 열정적인 소비자, 투지 넘치는 스타트업, 그리고 전 세계의 불안해하는 정부들은 깨끗한 API 접근 권한을 영영 얻지 못할 수도 있으며, 근본적으로 제한된 제품 계층을 통해 접근하게 될 것입니다. 아마도 오늘날의 챗봇이나 코딩 에이전트 인터페이스 형태이거나, 혹은 '우수 명단'에 이름을 올리기 위해 변호사와 로비스트를 고용할 여력이 있는 소수의 대형 스타트업 형태일 것입니다. 개발 몇 달 후, 모델은 모든 사람의 손에 들어가 있겠지만, 모든 사람이 그 능력을 제대로 사용할 만큼 충분한 토큰 (tokens)을 가지고 있지는 않을 것이며, 대부분은 신뢰할 수 있는 벤더들이 자신들을 위해 설계해 놓은 방식대로만 모델을 배포할 수 있을 것입니다. 다음 세대의 모델이 이미 동일한 파이프라인에 진입했을 때 비로소, 우리 모두가 오늘날 누리고 있는 프론티어 AI에 대한 사실상(de facto) 무제한적인 접근이 가능해질 것입니다.

불균등하게 분배된 미래 (Unevenly Distributed Futures)

불균등하게 분배된 미래 (Unevenly Distributed Futures)