현재 AI 분야에서는 조용한 가격 전쟁이 벌어지고 있으며, 그 주역은 대부분 OpenAI, Anthropic 또는 Google이 아닙니다. 지난 1년 동안 프론티어(Frontier) 폐쇄형 모델과의 성능 격차를 좁히는 동시에, 가격은 한두 단계(orders of magnitude) 더 낮게 책정하며 등장한 오픈 웨이트(open-weight) 모델들의 물결에서 비롯되고 있습니다. 만약 당신이 여전히 모든 요청을 기본적으로 입력 $5/출력 $25 수준의 플래그십 모델로 보내고 있다면, 아마도 트래픽의 상당 부분에 대해 과도한 비용을 지불하고 있을 가능성이 큽니다.

이 모델들은 장난감 수준이 아닙니다. 이들은 토큰당 비용이 10~30배 더 비싼 모델들과 비교했을 때 SWE-bench, GPQA, 롱 컨텍스트 검색(long-context retrieval)과 같은 실제 벤치마크에서 경쟁력 있는 점수를 기록하고 있습니다. 여기 당신의 활용 목록에 포함할 가치가 있는 다섯 가지 모델과, 반대로 이들을 사용하지 말아야 할 실제 사례를 소개합니다.

1. DeepSeek V4 (Flash 및 Pro)

DeepSeek는 이 전체 가격 전쟁의 속도를 조절하는 선도자 역할을 해왔습니다. 대부분의 호스팅 비교 시 DeepSeek V4 Flash는 100만 토큰당 입력 약 $0.14 / 출력 $0.28 수준으로 작동하며, 이는 대부분의 실제 요청에서 1센트 미만의 비용에 불과합니다. 그러면서도 여러 독립적인 평가에 따르면 일반적인 성능 면에서 "GPT-4o급" 범위에 도달해 있습니다. Pro 티어는 호스팅 업체에 따라 100만 출력 토큰당 약 $0.87~$2 수준으로 추론 품질을 높였으며, 여전히 서구권의 프론티어 모델들보다 훨씬 저렴합니다.

가장 적합한 용도: 대량의 프로덕션 트래픽, 분류(classification), 요약(summarization), 그리고 매달 수백만 건의 요청을 보내어 토큰당 비용이 빠르게 누적되는 모든 작업. 트레이드오프(Trade-off): 단일 벤더 API를 사용할 때보다 어디에서 호스팅하느냐가 더 중요합니다. 비용을 더 절감하기 위해 전체 정밀도 가중치(full-precision weights)를 제공하는지 아니면 양자화된 버전(quantized version)을 제공하는지에 따라 제공업체별로 품질이 달라질 수 있습니다.

2. Qwen3 (Flash / Max)

Alibaba의 Qwen 라인업은 100만 토큰당 약 $0.01~$0.28 수준의 초저가 계층부터, 262K 컨텍스트를 지원하며 약 $3.90의 출력 비용이 드는 프로덕션급 옵션인 Qwen3 Max에 이르기까지 이례적으로 넓은 범위를 아우릅니다. 이러한 범위 자체가 실제 판매 포인트입니다. 동일한 모델 제품군 내에서, 그리고 (대부분의 호스트에서) 동일한 API 형태를 유지하면서 사소한 작업은 가장 저렴한 계층로 라우팅하고, 요청에 실제로 필요한 경우에만 Max로 단계를 높일 수 있습니다.

가장 적합한 경우: 요구 사항이 변경될 때마다 벤더를 교체할 필요 없이, "저렴한 분류기 (classifier)"부터 "견고한 범용 모델 (general-purpose model)"까지 전체 스펙트럼을 아우르는 하나의 모델 제품군을 원하는 팀. 트레이드오프 (Trade-off): 가장 저렴한 계층는 진정으로 단순한 작업을 위해 구축되었습니다. $0.01 가격대에서 플래그십 수준의 추론 (reasoning) 능력을 기대하지는 마세요.

3. GLM-5.2 (Zhipu)

GLM은 강력한 추론 (reasoning) 및 구조화된 사고 사슬 (structured chain-of-thought) 옵션으로 자리매김했으며, 현재 대부분의 목록에서 100만 토큰당 입력 약 $1.40 / 출력 약 $4.40 정도로 책정되어 있습니다. 이는 여전히 Claude나 GPT 플래그십 가격의 절반에도 미치지 못하는 수준이며, 여러 벤치마크에서 GPQA Diamond 및 코딩 점수가 폐쇄형 모델 (proprietary models)과 비교해도 진정으로 경쟁력 있는 영역에 있음을 보여줍니다. 또한 작업 부하의 일부가 중국어 관련 작업이라면, 특히 중국어 작업에 있어 더 강력한 옵션 중 하나로 자주 언급됩니다.

가장 적합한 경우: 예산 모델보다는 뛰어나면서도 플래그십 가격을 지불하고 싶지는 않은, 추론 집약적인 작업 및 구조화된 출력 (structured output)이 필요한 경우. 트레이드오프 (Trade-off): GLM에 대한 일부 벤치마크 주장들이 상충하는 2차 보고를 불러일으키기도 했습니다. 단일 수치를 액면 그대로 받아들이기보다는 자체 평가 세트 (eval set)를 통해 확인해 볼 가치가 있습니다. 이는 모든 모델에 대해 일반적으로 권장되는 좋은 관행이지만, 업데이트 속도가 빠른 이 모델의 경우에는 특히 더욱 그렇습니다.

4. MiniMax (M2 / M2.5 / M2.7)

MiniMax는 버전에 따라 입력 $0.30 / 출력 $1.20 범위의 가격대를 형성하며, 시장에서 코딩 능력 대비 가격 효율(price-to-coding-capability ratio)이 가장 좋은 모델 중 하나로 조용히 자리 잡았습니다. 평가 결과에 따르면 MiniMax M3는 SWE-bench Verified에서 80%를 통과한 가장 저렴한 모델 중 하나로 꼽힙니다. 만약 작업 부하가 코드 집약적이고 비용에 민감하다면, 플래그십 (flagship) 모델을 기본값으로 선택하기 전에 가장 먼저 고려해야 할 곳 중 하나입니다.

가장 적합한 용도: 실제 성능은 필요하지만, 사용량 대비 플래그십 모델의 가격이 합리적이지 않은 코딩 에이전트 (coding agents) 및 개발 도구 (dev-tooling) 워크로드. 트레이드오프 (Trade-off): DeepSeek나 Qwen에 비해 브랜드 인지도가 낮고 주변 생태계가 작아, 도구 및 커뮤니티 지원이 부족할 수 있습니다.

5. Kimi (K2.5 / K2.6)

Moonshot의 Kimi 라인업은 이 목록에서 상대적으로 프리미엄(premium) 쪽에 속합니다. 버전 및 호스트에 따라 출력 가격이 $3~$15 범위에 달하지만, 진정으로 큰 컨텍스트 윈도우 (context windows, 최대 256K 토큰)와 이례적으로 낮은 캐시 히트율 (cache-hit rate, 일부 호스트는 캐시된 콘텐츠에 대해 100만 토큰당 약 $0.07를 제시)을 통해 이 자리를 차지했습니다. 이는 애플리케이션이 많은 요청에 걸쳐 긴 시스템 프롬프트 (system prompts)를 재사용하는 경우 매우 중요합니다. 이 모델은 "이 목록의 기준으로는 비싸지만, 프런티어 (frontier) 모델 기준으로는 여전히 저렴한" 옵션으로 간주하십시오.

가장 적합한 용도: 프롬프트 재사용이 빈번하여 캐시 가격의 이점이 빠르게 누적되는 롱 컨텍스트 (long-context) 워크로드. 트레이드오프: 여기 있는 다른 모델들만큼 진정한 저가형 옵션은 아닙니다. 순수 가격보다는 특히 롱 컨텍스트와 캐싱 기능 때문에 선택해야 합니다.

저렴한 모델들이 실제로 한계를 보이는 지점

솔직히 말해서, 이 모든 것이 사용 가능한 가장 저렴한 모델로 모든 것을 라우팅(routing)해야 한다는 의미는 아닙니다. 저렴한 오픈 웨이트 (open-weight) 모델들은 분류 (classification), 추출 (extraction), 요약 (summarization), 일상적인 코드 생성 (routine code generation)과 같이 잘 정의되고 경계가 명확한 작업에서는 잘 작동하는 경향이 있습니다. 반면, 흐름을 놓치지 않으면서 매우 길고 모호한 추론 체인을 유지해야 하는 작업이나, 여러 단계에 걸쳐 스스로 수정이 필요한 에이전트 워크플로우 (agentic workflows)에서는 성능이 떨어집니다. 대부분의 팀이 도달하게 되는 현실적인 패턴은 "Claude와 GPT를 대체하는 것"이 아니라, "실제로 그 능력이 필요한 10-20%의 요청을 위해 Claude와 GPT를 예약해 두고, 나머지는 그보다 한 자릿수(an order of magnitude) 더 저렴한 모델로 라우팅하는 것"입니다.

AI 게이트웨이 (AI Gateway) 사용하기: 다섯 가지 저렴한 모델을 하나로 통합하기

그러한 라우팅 패턴은 설명하기는 간단하지만, 직접 구축하기에는 정말 번거롭습니다. 위에 언급된 다섯 가지 제공업체는 각각 고유한 SDK 특성, 인증 (auth), 속도 제한 (rate limits) 및 가동 시간 (uptime) 특성을 가지고 있습니다. 만약 "이 요청이 DeepSeek Flash에 충분히 간단한가, 아니면 Claude가 필요한가"를 결정하는 로직을 직접 구현하고 있다면, 여러분은 실제 제품과는 아무런 상관이 없는 인프라를 유지 관리하고 있는 셈입니다.

이것이 바로 SayGM과 같은 추론 게이트웨이 (inference gateway)가 해결하기 위해 만들어진 문제의 전형적인 유형입니다. 이는 OpenAI, Anthropic, Gemini SDK와 즉시 호환되므로, 트래픽의 일부를 더 저렴한 모델로 교체한다고 해서 요청 로직을 다시 작성할 필요가 없습니다. 또한 SayGM의 캐스케이드 모드 (cascade mode)는 페일오버 (failover) 케이스를 직접 처리합니다. 기본 모델과 폴백 (fallback) 모델을 정의해 두면, 특정 모델이 느려지거나, 속도 제한에 걸리거나, 다운되었을 때 애플리케이션이 어떤 모델이 실제로 응답했는지 알거나 신경 쓸 필요 없이 요청이 자동으로 다음 모델로 라우팅됩니다. 퓨전 모드 (fusion mode)는 비용만이 유일한 고려 사항이 아닌 경우를 위해 한 단계 더 나아갑니다. 동일한 프롬프트에 대해 저렴한 모델과 프론티어 모델 (frontier model)에 동시에 질의하고 출력을 병합하는데, 이는 예산 모델의 속도를 활용하면서 더 강력한 모델로 교차 검증을 하고 싶을 때 유용합니다.

여기에는 간과하기 쉬운 개인정보 보호(privacy) 측면도 존재합니다. 비용을 절감하기 위해 다섯 개의 서로 다른 제공업체로 민감한 프롬프트(prompt)를 라우팅(routing)할 때, 여러분은 해당 데이터를 다섯 개의 서로 다른 회사 인프라(infrastructure)에 맡기는 셈이 됩니다. SayGM은 어떤 기반 모델이 답변하느냐에 관계없이 모든 요청을 하드웨어로 검증된 TEE(Trusted Execution Environment)를 통해 라우팅하므로, 0.14달러짜리 예산 모델을 사용하든 50달러짜리 플래그십 모델을 사용하든 프롬프트는 종단 간(end-to-end)으로 봉인됩니다. 결과적으로 비용 최적화와 프롬프트 개인정보 보호는 해결해야 할 두 개의 별개 문제가 아니라, 동일한 통합 과정이 됩니다.

만약 위에서 설명한 방식의 라우팅 로직(routing logic)을 구축하고 있다면, 특정 '저렴한' 모델을 확정하기 전에 SayGM의 model leaderboard를 확인해 볼 가치가 있습니다. 이 리더보드는 고정된 시드(fixed-seed)를 사용한 MATH-500 및 GPQA-Diamond 벤치마크 세트를 통해 이 등급의 모델들을 정확히 측정하며, 질문당 합격/불합격(pass/fail) 여부를 투명하게 공개합니다. 이를 통해 예산 모델이 실제로 어느 지점까지 버텨내는지, 혹은 여러분의 작업 유형에서 어느 지점에서 조용히 무너지는지를 확인할 수 있습니다.