선형적 경계: AI 투자와 자율 에이전트의 가능성

현재 인공지능(AI) 투자를 뒷받침하는 핵심 경제 서사는 재귀적 자기 개선입니다. 이 투자 논리는 단순히 기업 소프트웨어 회사에 API 토큰을 판매하는 것에만 의존하지 않습니다. 이는 알고리즘적인 플라이휠(flywheel)을 가정합니다. 만약 프론티어 모델이 머신러닝 연구를 자동화할 수 있다면, 세대별 발전마다 다음 아키텍처의 발견 속도가 가속화됩니다. 이러한 가정 하에 소프트웨어 연구 비용은 0으로 수렴하고, 역량은 기하급수적으로 복합되며, 수천억 달러 규모의 데이터 센터 투자는 자가 조달되는 특이점(singularity)을 향한 브릿지 대출금 역할을 합니다.

이는 이론적으로 일관된 논리입니다. 만약 코드 생성이 마찰 없이 확장된다면, 가설 설정, 구현 및 검증 사이클 시간은 압축되어야 합니다.

10월 14일, Google DeepMind는 Gemini 4 Argon 안전 및 보안 보고서(Safety and Security Report)에서 실증적 연구 결과를 발표했습니다. 이 보고서는 해당 플라이휠을 내부 운영에 적용하여 테스트한 내용입니다. DeepMind 연구원 Haydn Belfield가 상세히 설명한 이 데이터는 프론티어 연구소가 자율 에이전트(autonomous agents)를 자체 머신러닝 파이프라인에 풀어놓았을 때 어떤 일이 발생하는지에 대한 최초의 감사된 시각을 제공합니다.

순수한 자동화 수치만 보면 처음에는 인상적입니다. DeepMind 생산 코드의 75% 이상이 현재 AI에 의해 작성되었습니다. 2026년 4월부터 9월 사이에 자율 에이전트에 의해 직접 생성된 풀 리퀘스트(pull requests) 비율은 7.5%에서 11.9%로 증가했습니다. 내부 평가 스위트인 Google RE-Bench의 74가지 현실적인 머신러닝 엔지니어링 작업에 대해, Gemini 4 Argon은 할당된 실행 중 절반가량을 완료하며 Gemini 3.7 Flash의 성공률 27%를 거의 두 배로 끌어올렸습니다.

하지만 DeepMind가 실제 과학적 진전 속도를 측정했을 때, 이 플라이휠은 나타나지 않았습니다.

시간에 따른 역량 성장을 추적하기 위해 연구소는 123개의 모델과 92개의 벤치마크를 결합하여 단일 거시 지표인 General Capability Index (GCI v1)를 구축했습니다. 2024년 말부터 2026년 말까지, 선도적인 Gemini의 역량은 매월 약 0.1 GCI 포인트라는 꾸준하고 변함없는 속도로 성장했습니다. Gemini 1.5 Pro는 2024년 말에 0.5점에 근접했으며, Gemini 3.8 Flash는 2026년 9월에 2.9점을 돌파했습니다. 2년간의 집중적인 배포를 거치며 나타난 발전 추이는 거의 정확하게 직선을 따라 그려졌습니다.

Gemini 4 Argon은 이 추세선을 넘어서 약 3.3점을 기록하며 성과를 보였습니다. 하지만 DeepMind는 자동화된 연구 루프가 이러한 상승세를 만든 공로를 명시적으로 인정하지 않았습니다. 대신, 저자들은 이러한 초과 성과를 증가한 물리적 컴퓨팅 할당량과 더 큰 조직적 투자에 기인한다고 추적했습니다. 이 모델은 스스로 가속화되고 있는 것이 아니었고, Alphabet이 단순히 클러스터 용량에 대해 더 큰 금액을 지출하고 있었던 것입니다.

75%의 합성 코드 생성이 과학적 발견에서 통계적 가속도를 전혀 가져오지 못하는 경제적 이유는 연구소 내부의 Baumol's cost disease(바우몰 비용 질병) 때문입니다.

코드를 생산하는 한계 비용이 0에 가까워지면, 코드 생성은 더 이상 제약 조건이 아닙니다. 속도 결정 단계는 자동화할 수 없는 보완적 입력값으로 이동합니다. 머신러닝 연구에서 이러한 입력값들은 실험 설계, 생산적인 과학 가설을 구성하기, 다개월 분산 실행 중 미묘한 훈련 불안정성을 식별하는 것, 그리고 유한한 물리적 클러스터를 할당하는 것입니다.

DeepMind는 내부 에이전트 평가에서 이와 정확히 같은 병목 현상을 관찰했습니다. Argon 에이전트를 1,389회 실행한 결과, 작업의 복잡성과 지속 시간이 증가함에 따라 자율 성공률이 급격히 감소하는 것을 확인했습니다. DeepMind 선임 연구 디렉터 및 임원 12명을 대상으로 한 설문조사에서도 그 격차는 명확했습니다. 자동화는 단위 테스트 생성이나 보일러플레이트 리팩토링과 같이 정의가 잘 되어 있고 검증하기 쉬운 실행 작업에서는 성공했지만, 개방형 과학적 아이디어 구상, 새로운 아키텍처 설계, 손실 곡선(loss curve) 이상 진단 같은 영역에서는 거의 0에 가깝게 떨어졌습니다.

더욱이, 연구 조직을 저렴한 합성 코드(synthetic code)로 범람시키는 것 자체가 고유의 마찰을 일으킵니다. 에이전트가 생성한 코드 변경 사항 중 88%가 여전히 별도의 인간 지침과 검토를 필요로 한다면, 수석 연구원(principal investigators)에게 가해지는 인지적 부담은 증가합니다. 복잡한 분산 시스템 전반에 걸쳐 확률적인 코드를 검토하는 것은 비대칭적 손실 함수를 갖습니다: 분산 학습 하네스(distributed training harness)의 조용한 숫자 버그 하나를 승인하는 것이 몇 주간의 컴퓨팅 자원과 수백만 달러의 전력 낭비를 초래할 수 있습니다. 검증이 여전히 비싸다면, 모델이 생성하는 코드 양을 늘리는 것은 인간 검토 책상에 운영 대기열(operational queue)을 만듭니다.

옵션 가격 결정에서 콜 옵션(call option)의 가치는 기초 자산(underlying asset)의 변동성(volatility)과 드리프트(drift)에 달려 있습니다. 지난 3년간, 공공 주식 시장과 사모 신용 조합(private credit syndicates)은 선도 AI 연구소들을 지수적 이륙 함수(exponential takeoff function)에 대한 고베타 옵션(high-beta options)처럼 취급해 왔습니다. 만약 역귀납적 소프트웨어 루프(recursive software loops)를 통해 역량 향상이 복리화된다면, 투자된 자본 대비 수익률이 가속화되어 데이터 센터와 맞춤형 실리콘을 위한 대규모 부채 금융을 정당화합니다.

DeepMind의 경험적 증거는 다른 수익 분포를 가리킵니다. 최첨단 AI 연구는 고전적인 자본 집약적 산업 공정과 유사하게 작동합니다. 역량 향상은 달력 시간(calendar time)에 대해서는 선형적으로, 자본 지출(capital expenditure)에 대해서는 로그 함수적으로 진전됩니다. 역량 지수(capability index)에서 추가되는 0.1 포인트마다 출력물을 검증하기 위해 기하학적으로 더 큰 클러스터, 더 높은 그리드 상호 연결 비용(grid interconnection fees), 그리고 확장된 인간 과학자 팀이 필요합니다.

어떤 산업이 자산을 지수적 급등(exponential runaway)으로 가격 책정하지만 선형적인 물리적 제약 하에서 운영된다면, 가치 평가 프리미엄은 결국 압축됩니다. 만약 소프트웨어가 자체적인 과학적 발견을 자동화할 수 없다면, 진전의 모든 단계는 메가와트(megawatts), 실리콘 웨이퍼(silicon wafers), 그리고 인간의 판단에 대해 공개 시장에서 구매되어야 합니다.