AI Gateway Production Index — 2026년 9월

AI Gateway Production Index — September 2026

매달, 수십조 개의 토큰을 프로덕션 애플리케이션과 AI 연구소 간에 라우팅합니다. 이 트래픽은 오늘날 엔터프라이즈에서 AI 사용이 실제로 어떤 모습인지 보여주며, 저희는 이를 매월 발행합니다. AI Gateway의 Production Index 보고서는 JuneJulyAugust부터 확인하실 수 있습니다.

9월 지수는 2026년 8월까지 수집된 AI Gateway 데이터를 보고합니다.

이 월간 보고서는 8월까지의 데이터를 다룹니다. 저희는 에디션 간에 주목할 만한 개발 사항을 추가합니다.

지난 8월에는 open-weight 모델이 AI Gateway에서 처리된 모든 토큰 중 56%를 차지하며, 이들이 볼륨의 과반수를 차지한 첫 달을 기록했습니다.

2025년 12월에는 열 개 중 하나 미만의 토큰만 처리했지만, 불과 8개월 만에 모든 closed-weight 모델을 합친 것보다 더 많은 토큰 볼륨을 처리했습니다.

프론티어(frontier) 모델이 여전히 대부분의 지출을 차지하고 있지만, open-weight 모델의 달러 점유율은 가속화되고 있습니다. open-weight 모델들이 더욱 강력해짐에 따라 고객들은 더 많은 프로덕션 워크로드를 이들로 옮기고 있습니다.

open-weight 모델 채택 증가는 8월 평균 토큰당 가격을 게이트웨이 전반에 걸쳐 23.2% 하락시키는 데 기여했으며, 이는 4월 이후 가장 가파른 수치이며 세 번째 연속 월간 하락세입니다. 두 달 모두 1천만 개 이상의 토큰을 실행한 팀들 중 중앙값은 토큰당 7.6% 적게 지불하여, 7월의 2.9% 감소보다 두 배 이상 높은 수치를 기록했습니다.

이제 팀들은 동일한 예산으로 더 많은 추론(inference)을 얻을 수 있으며, 프론티어 모델은 프리미엄이 정당화되는 작업에만 예약할 수 있습니다.

프론티어 모델이 필요한 프로덕션 워크로드가 항상 가장 비싼 모델일 필요는 없습니다. 그저 충분히 좋은 모델이면 됩니다.

Anthropic이 판매하는 모델 중 Fable이 가장 성능이 뛰어납니다. Opus는 그보다 낮은 등급이며 토큰당 비용은 Fable의 절반 정도입니다. 미국 수출 통제가 Fable 5에 대해 해제되고 7월 1일에 접근이 복원되자, Fable의 게이트웨이 지출 점유율은 13.2%까지 급증했습니다. 같은 달 말에는 Opus 5가 출시되었습니다.

8월에는 Fable 5의 게이트웨이 지출 점유율이 4.9%로 떨어졌고, Opus 5의 점유율은 22.5%로 상승했습니다. Fable을 사용하던 팀 중 열 개 중 아홉 개가 사용량을 줄였으며, 이들 대부분은 다른 어떤 모델보다도 Opus 5로 워크로드를 옮겼습니다. Fable의 추가적인 성능은 두 배의 가격을 지불할 만큼 가치가 없었습니다.

팀들은 Anthropic의 가장 비싸고 성능이 뛰어난 모델인 Fable을 떠났지만, 이 연구소는 해당 워크로드가 다른 연구소가 아닌 Opus 5로 다운그레이드되었기 때문에 게이트웨이 지출 점유율의 대부분을 유지했습니다.

Anthropic은 12월 이후 매달 AI Gateway를 통해 지출된 모든 달러 중 최소 61센트를, 그리고 8월에는 64센트의 수익을 확보했습니다. 이들의 모델은 해당 자리에 있는 모델이 바뀌었음에도 불구하고 12월 이후 매달 상위 두 자리를 차지하며 지출액을 유지했습니다.

연구소에 대한 충성도는 브랜드가 아닌 모델 프로필을 따르며, 일관성이 승리합니다.

새로운 모델이 이전 버전에서 사용자들이 중요하게 생각했던 것을 보존할 때, 연구소는 고객을 유지합니다. 그렇지 않을 때는 그 고객들이 다른 제공업체를 통해 필요를 채웁니다.

Claude Opus 5가 출시되었을 때, Fable이 잃은 것의 거의 두 배에 달하는 점유율을 얻었습니다. 왜냐하면 같은 워크로드를 절반 가격으로 처리했기 때문입니다. 그리고 Z.ai가 GLM-5.3-Flash를 출시한 지 닷새 만에, Opus 5는 GLM-5.2의 일일 사용량보다 세 배 많은 양을 처리하고 있었습니다.

Google은 새로운 모델로 고객을 유지하는 데 어려움을 겪었습니다. 새로운 제품들이 성능이나 가격 면에서 상대적인 우위를 제공하지 못했기 때문에, Gemini 3 Flash의 대다수 워크로드는 OpenAI, Anthropic, DeepSeek으로 이동했습니다.

Gemini 3 Flash에서 나간 트래픽 볼륨의 절반가량이 GPT-5.6 Luna와 같은 저렴한 모델로 향했으며, 이 모델은 토큰당 비용이 절반 이하입니다. 나머지 절반가량은 Claude Opus 5 및 Sonnet 5와 같은 고가 모델로 향했는데, 이들은 각각 Gemini 3 Flash보다 약 9배와 3배의 비용이 발생했습니다.

더 적합한 모델로의 이동(flight to better-fit models)으로 인해 동일 기간 동안 Google의 게이트웨이 토큰 볼륨 점유율은 30%에서 5%로 하락했으며, Gemini 3 Flash가 손실된 25 퍼센트 포인트 중 22 포인트를 차지했습니다.

GPT-6 Astra는 9월 3일 AI Gateway에 Fable 5.1과 동일한 가격으로 출시되었으며, GPT-5.6 Sol의 2.5배 가격이었습니다. 이틀 후에는 게이트웨이를 통해 지출된 OpenAI 모델 비용 중 3분의 1을 차지했습니다. 이후 점유율은 28%에서 39% 사이를 오가며 유지되었습니다.

OpenAI의 모델 라인업 내에서 Astra와 Sol이 OpenAI 토큰의 27%를 처리했지만, 9월 4일부터 16일까지는 지출액의 71%를 차지했습니다. Luna와 Nano는 토큰 수는 두 배 이상 많았지만, 지출액은 약 1/9 수준에 그쳤습니다.

Anthropic은 Astra보다 이틀 앞선 9월 1일에 Fable 5.1을 출시했습니다. 게이트웨이에 올라온 각 모델의 첫 12일 동안 Astra는 전체 게이트웨이 지출액의 7.7%를 차지하며, 이는 Fable 5.1의 점유율인 3.7%보다 두 배 이상 높았고, 더 많은 팀에 의해 사용되었습니다.

OpenAI의 저가 모델들이 볼륨을 유지하는 동안, Astra가 Fable 대비 초기에 보여준 우위는 고가 지점에서도 팀을 유치할 수 있음을 보여줍니다. 이 두 모델은 함께 OpenAI가 규모와 프리미엄 지출 모두에서 다른 프론티어 연구소들과 경쟁하도록 했습니다.

다음 달 보고서에서 더 많은 내용을 기대해 주세요.

본 보고서는 2026년 8월까지 Vercel AI Gateway를 통해 라우팅된 익명화되고 집계된 트래픽을 사용합니다.

측정 관련 참고 사항:

더 읽기

2026년 9월 요약

이전 AI Gateway Production Index 보고서

• 12월의 7%에서 8월에는 56%로 상승했습니다. 오픈 웨이트 모델(Open-weight models)이 사상 처음으로 게이트웨이 토큰의 대다수를 차지했습니다.

  • 토큰당 가격은 8월에 23.2% 하락하여 3개월 연속 감소세를 보였으며, 중간 팀의 지출액은 7.6% 줄었습니다. 평균 토큰 비용은 5개월 전보다 절반 이하로 낮아졌습니다.
  • Opus 5는 가격이 절반으로 책정되면서 점유율을 세 배로 늘렸습니다. Anthropic은 전체 지출의 64%를 유지했습니다. Anthropic의 가장 강력한 모델인 Fable 5는 한 달 만에 게이트웨이 지출 점유율의 3분의 2를 잃었습니다.
  • 5월 이후, 그리고 손실된 볼륨의 4분의 3 이상은 다른 연구소(labs)의 모델로 넘어갔습니다. Gemini 3 Flash는 게이트웨이 토큰 점유율의 95%를 잃었습니다.

• 9월 17일: 9월 3일 기준, Astra가 첫 12일 동안 전체 게이트웨이 지출의 7.7%를 차지했으며, Fable 5.1은 이틀 전에 출시되었음에도 불구하고 3.7%를 기록했습니다.OpenAI가 Astra를 출시하며 이는 OpenAI 지출의 3분의 1을 이틀 만에 차지했으며, Fable 5.1의 게이트웨이 지출 점유율보다 두 배나 높았습니다.

• 9월 18일: Jev가 AI Gateway 역사상 새로운 기록을 세웠습니다. 출시 후 24시간 이내에 유료 팀의 거의 13%에서 사용되었는데, 이는 GPT-5.6 제품군보다 2배 많고 Fable 5.1보다 6배 이상 많은 수치입니다.fastest-adopted model

• GPT Image의 44%에서 50%로, GPT Image가 이미지 생성 부문에서 다시 선두를 차지했음에도 불구하고, 비디오 지출 점유율은 46%에서 39%로 하락했습니다. Google의 Nano Banana가 사상 처음으로 이미지 지출 분야에서 선두를 차지했습니다.

  • 7월의 15%에서 20%로 상승했습니다. Seedance는 생성된 비디오와 비디오 지출 모두에서 1위를 유지했습니다. Google의 Veo는 비디오 지출 부문에서 2위로 올라섰습니다.
  • 42%에서 31%, 그리고 19%까지 하락했습니다. xAI의 Grok Imagine이 생성한 비디오 점유율은 6월 이후 절반 이상 감소했습니다.

⚠️ [IMG:N] 형식 토큰은 이미지 placeholder 입니다. 번역하지 말고 원래 위치에 그대로 유지하세요.

• 2026년 5월

• 2026년 6월

• 2026년 7월

• 2026년 8월

• 토큰 볼륨에는 입력(input), 출력(output), 추론(reasoning), 캐시 입력(cached-input), 그리고 캐시 생성(cache-creation) 토큰이 포함됩니다.

• 지출액은 연구소(labs)가 발표한 목록 가격을 사용하여 추정되었으며, 실제 청구서와는 다를 수 있습니다. 토큰당 평균 가격은 추정 지출액을 토큰 볼륨으로 나눈 값입니다.

• 볼륨 이동에 대한 진술은 동일 팀 간의 변화를 비교합니다. 개별 토큰이 모델 간에 이동하는 것을 추적하지는 않습니다.

• 오픈 가중치(Open-weight) 분류는 이전 보고서에서 사용된 정의보다 폭넓은 현재 AI Gateway 모델 목록을 따릅니다.

• 모든 수치는 가장 최근에 이용 가능한 데이터를 사용하며, 방법론이 업데이트됨에 따라 이전 달의 수치는 수정될 수 있습니다.

최신 지수 업데이트 (Latest Index updates)

본 보고서 소개 (About this report)

---

---

오픈 가중치 모델이 사상 처음으로 토큰 볼륨의 다수를 차지하다

Fable 사용량이 Opus 5로 이동하며 프론티어(Frontier)가 정체되다

고객 충성도는 연구소(lab)가 아닌 모델 프로필을 따르다

특별 보고서: Astra는 OpenAI 지출액의 3분의 1을 48시간 만에 차지하며 Fable 5.1을 두 대 일로 능가하다

8월 데이터에도 포함된 내용