AI Gateway Production Index — 2026년 10월

AI Gateway Production Index — October 2026

매달, 수십조 개의 토큰을 프로덕션 애플리케이션과 AI 연구소 간에 전송합니다. 이 트래픽은 오늘날 엔터프라이즈에서 AI 사용이 실제로 어떤 모습인지 보여주며, 저희는 이를 매월 여기서 발표합니다. AI Gateway의 Production Index 보고서는 July, August, 그리고 September에서 확인할 수 있습니다.

8월에는 open-weight 모델이 사상 처음으로 AI Gateway 토큰 볼륨의 대다수를 처리했습니다. 이제 돈의 흐름도 뒤따르고 있습니다. Open weight의 지출 비중은 지난 3개월 동안 네 배 이상 증가하여, 6월에 게이트웨이 달러의 20분의 1에서 9월에는 거의 4분의 1에 육박합니다.

Open weight의 성장은 가격 범위 양쪽 끝에서 모두 나오고 있으며, 이는 더 넓은 게이트웨이 시장을 반영합니다. 가장 저렴한 모델들이 토큰 성장을 주도하는 반면, 비싼 모델들이 지출(spend)을 주도하고 있습니다.

Kimi K3가 이끌고 있는, open-weight 평균 토큰당 비용의 최소 4배에 달하는 가격의 모델들이 open-weight 지출 증가분의 약 3분의 2를 차지했습니다.

반면, DeepSeek-v4.1-Flash만으로도 9월 전체 토큰의 거의 절반을 처리했지만, 지출 비중은 단지 2.6%에 불과했습니다. 이 모델의 토큰당 가격은 open-weight 평균의 약 5분의 1 수준이었습니다.

고객들은 시장 양쪽 모두에서 예산을 늘리고 있습니다. 12월 이후로 프론티어(frontier) 모델에 대한 지출은 10배 증가했으며, open-weight 모델에 대한 지출은 70배 이상 증가했습니다.

프론티어 모델에 대한 지출은 여전히 증가하고 있지만, 대안(alternatives)에 대한 지출이 더 빠르게 성장하고 있습니다. 기업은 프론티어 연구소에 의존하는 워크로드는 줄이면서도 더 많은 비용을 지불할 수 있으므로, 연구소는 더 많은 돈을 벌지만 고객 비즈니스에서 차지하는 부분은 작아집니다.

시장 점유율은 훨씬 더 커지고 저렴해지는 시장 내부에서 손을 바꾸고 있습니다.

9월의 게이트웨이 지출액은 12월 대비 약 13배 증가하여 1,180%가 상승한 반면, 토큰당 평균 가격은 47% 하락했습니다. 12월과 9월 모두에서 유료 고객으로 활동한 중간값(median) 사용자는 지출액이 두 배 이상 증가했습니다.

팀(teams)의 지출은 늘고 있지만, 연구소(labs)들은 자신들의 비즈니스를 유지하기 위해 노력해야 합니다. 9월에는 거의 절반에 달하는 팀이 가장 많이 사용하는 모델을 변경했습니다. 그리고 거의 3분의 1 팀이 가장 많이 사용하는 연구소를 변경했는데, 이는 지수 기록입니다.

토큰 볼륨이 낮은 팀들조차도 다양한 모델들을 폭넓게 사용합니다. 지난 기간 동안 최소 1,000만 토큰을 처리한 팀들은 평균적으로 15가지 다른 모델을 사용했습니다. 이 평균은 최소 1억 토큰을 처리하는 팀의 경우 26개로, 최소 10억 토큰을 처리하는 팀의 경우 42개로 증가했습니다.

모델은 훨씬 더 큰 투자에서 대체 가능한 부분이 되고 있습니다. 기업들은 어떤 모델이 구동하든 상관없이 AI 제품과 워크플로우를 지속적으로 개선할 수 있습니다. 특정 연구소에 대한 의존도를 높이지 않으면서도 AI에 더 많이 지출할 수 있게 된 것입니다.

중국계 모델에 대한 9월 게이트웨이 지출액 중 3분의 2 이상이 미국 기반 제공업체로 향했으며, 이는 10분의 1 미만이었던 12월 대비 증가한 수치입니다. 중국 연구소가 모델을 구축하고, 미국 제공업체가 이를 운영하며 접근 권한을 판매하는 구조입니다.

DeepSeek의 모델은 전체 게이트웨이 토큰의 58%를 처리했지만 지출액에서는 6.6%만을 차지했습니다. 이 토큰 중 5분의 4 이상은 DeepSeek 자체에서 제공했지만, 그 모델에 지출된 1달러당 5센트 중 20센트는 미국 기반 제공업체를 통해 지출되었습니다.

Kimi의 배후인 베이징 기반 연구소 Moonshot AI는 9월 게이트웨이 토큰의 3.6%와 지출액의 13.2%를 차지했습니다. 이 토큰 중 10분의 9은 미국 기반 제공업체가 처리했습니다.

또한 베이징에 위치하며 GLM을 개발한 Z.ai는 전체 토큰의 7.2%와 지출액의 4.5%를 차지했으며, 미국 기반 제공업체는 이 중 10분의 7을 처리했습니다.

고객들은 미국 제공업체가 판매하는 접근 방식을 통해 중국 모델을 사용할 수 있습니다. 지난 9월에 중국 모델에 더 많은 돈을 투자한 팀들의 경우, 해당 모델 지출의 평균 53%는 미국 기반 제공업체를 통해 이루어졌으며, 41%는 중국 기반 제공업체를 통해 이루어졌습니다.

동일한 중국 모델이 미국 기반 모델과 경쟁하면서도 미국 기반 제공업체에 수익을 창출할 수 있습니다.

모델 출시의 성공 여부는 무엇을 측정하느냐에 따라 달라집니다. 얼마나 광범위하게 시도되었는지, 얼마나 많은 사용량과 지출을 받았는지, 또는 초기 사용자 중 얼마만큼이 재방문했는지를 기준으로 합니다. 저희는 최소 2주간의 데이터로 지난 9월의 모든 모델 출시를 이 측정 기준들로 순위를 매겼으며, 표에 각 항목별 상위 10개를 보여줍니다. 전체 점수는 보고서 마지막에 있습니다.

Jev는 첫 2주 동안 유료 팀의 3분의 1 이상에 도달하여, 2위에 있던 Sonnet 5.5의 도달률을 거의 두 배로 기록했습니다. 이는 AI Gateway 역사상 가장 빠른 모델 채택 속도입니다.

Jev는 또한 월 중반에 출시되었음에도 불구하고 지난 9월 모든 모델 중에서 가장 많은 요청을 받았습니다. 첫 주에 Jev를 시도한 팀들 중 55.6%가 2주차에 재방문하여, 이는 다섯 번째로 높은 유지율입니다.

Jev는 의사결정(decision) 모델입니다. 일반적인 언어 모델(language-model) 요청과 비교했을 때, Jev 요청은 더 빠르고 저렴하며 토큰을 훨씬 적게 사용합니다. 따라서 채택 속도가 빠르고 광범위했음에도 불구하고, 월간 토큰의 1%와 지출의 0.15%만을 차지했습니다.

지난 9월에 Jev는 추론 비용(inference bill)에서 아주 작은 부분을 차지하면서도 프로덕션 환경에서 빠르게 인기 있는 모델이 되었습니다.

가장 많은 달러를 받은 출시는 Opus 5.5였으며, 이는 다른 어떤 9월 출시보다 두 배 이상의 점유율을 기록했습니다. 그 뒤를 GPT-6 Astra와 DeepSeek-v4.1-Flash가 이었습니다.

Opus 5.5는 빠르게 인기를 끌었는데, 거의 열 개 중 아홉 개의 달러가 이미 Opus 5를 사용하던 팀들로부터 나왔습니다. 기존 고객들은 새로운 버전을 시도하는 동안 더 넓은 범위의 Opus 제품군이 시장 점유율을 잃고 있었습니다.

모든 버전을 통틀어, Opus는 지난달(9월) 게이트웨이 지출액의 거의 3분의 1을 차지하며, 그 전 달(8월)의 절반 수준에서 감소했습니다. Anthropic의 전체 점유율은 총 게이트웨이 지출액의 절반 미만으로 떨어지며, 63.7%에서 43.9%로 하락했습니다.

GPT-6 Luna는 첫 두 주 동안 유료 팀 중 거의 20개 팀에 도달하며, Jev와 Sonnet 5.5에 이어 3위를 차지했습니다. 하지만 월간 리텐션율(return rate)은 가장 높았는데, 첫 주에 사용해 본 팀의 거의 3분의 2가 두 번째 주에도 돌아왔습니다.

GPT-6 Astra는 더 적은 규모의 사용자에게 도달했지만 더 많은 예산을 확보했습니다. 첫 두 주 동안, Astra는 게이트웨이 지출액의 약 20분의 1을 차지한 반면, Luna는 100분의 1 미만을 차지했습니다. Luna가 거의 3배 많은 팀에 도달한 반면, Astra는 지출 점유율에서 5배 이상의 격차를 벌렸습니다.

OpenAI는 Luna로 더 많은 고객을 유치하고 있지만, 적은 수의 팀이 사용함에도 불구하고 Astra로는 훨씬 더 많은 자금을 확보하고 있습니다.

본 보고서는 2026년 9월까지 Vercel AI Gateway를 통해 라우팅된 익명화되고 집계된 트래픽을 기반으로 작성되었습니다.

측정 관련 참고 사항:

저희의 방법론(methodology)에 대해 더 읽어보시거나 공개 데이터를 탐색하거나 다운로드하세요(explore or download the public data)

더 읽기

2026년 10월 요약

Jev가 가장 많이 채택되고 호출된 모델입니다

Opus 5.5가 10분의 1 이상의 게이트웨이 지출액을 차지했습니다

Luna는 사용자를 되돌려 왔고; Astra는 지출을 끌어왔습니다

전체 9월 점수판

이전 AI Gateway Production Index 보고서

본 보고서 소개

• 지출 비중이 지난 6월 대비 4배 이상 증가했습니다. 오픈 웨이트 모델(Open-weight models)은 현재 10개 중 7개 이상의 게이트웨이 토큰을 처리하며, 금액의 거의 4분의 1을 차지합니다.

• 세 팀 중 거의 한 팀이 가장 많이 사용하던 실험실(lab)을 지난 9월에 변경했으며, 이는 지수 기록입니다. 9월의 게이트웨이 지출은 12월 대비 약 13배였지만, 토큰당 평균 가격은 47% 낮았습니다.

• 12월에는 10% 미만이었던 수치에서 상승했습니다. 중국 모델에 대한 9월 게이트웨이 지출 중 거의 70%가 미국 기반 제공업체를 통해 이루어졌지만, 해당 기간의 전체 게이트웨이 지출에서는 단지 0.27%를 차지했습니다. Opus 5.5는 자체 출시 첫 2주 동안 게이트웨이 금액의 10분의 1 이상을 차지하며, 9월에 출시된 모든 모델 중 가장 큰 지출 비중을 기록했습니다. Jev는 AI Gateway 역사상 가장 빠르게 채택된 모델로, 출시 첫 2주 만에 유료 팀의 35%에 도달했습니다.

• May 2026

• June 2026

• July 2026

• August 2026

• September 2026

• 토큰 볼륨은 입력(input), 출력(output), 추론(reasoning), 캐시된 입력(cached-input) 및 캐시 생성(cache-creation) 토큰을 포함합니다.

• 지출액은 공개된 목록 가격으로 추정되며, 실제 청구서와는 다를 수 있습니다. 평균 토큰당 가격은 추정 지출액을 토큰 볼륨으로 나눈 값입니다.

• 오픈 웨이트(Open-weight) 분류는 이전 보고서보다 더 광범위한 정의를 따르는 현재 AI Gateway 모델 목록을 따릅니다.

• 스위칭 비율은 두 달 모두에서 최소 1,000만 개의 유료 토큰을 사용한 팀들을 비교합니다. '가장 많이 사용된(Most-used)'은 유료 토큰으로 측정됩니다.

• 제공자 위치는 회사 본사를 의미합니다.

• 출시 지표(Launch metrics)는 각 모델의 첫 14일 동안 외부 유료 팀들을 다룹니다. 도달률(Reach)은 출시 월 시작부터 데이터 차단일까지 활동한 유료 팀을 사용합니다. 지출 점유율(Spend share)은 모델 기간 동안 총 유료 게이트웨이 지출액을 사용합니다. 리턴율(Return rate)은 첫 주에 해당 모델을 사용했던 팀 중 2주차에도 다시 사용한 비율입니다.

• 모델 수는 12월부터 9월까지를 다루며, 각 버전별로 개별 계산됩니다. 팀 규모 임계값은 해당 기간 동안의 총 입력 및 출력 토큰을 사용합니다.

• 모든 수치는 가장 최근에 이용 가능한 데이터와 프로토콜을 사용하며, 방법론이 업데이트됨에 따라 이전 달의 수치는 수정될 수 있습니다.