솔직히 말씀드리겠습니다. 저는 누군가 중국산 AI 모델을 언급할 때마다 눈을 굴리곤 했습니다. "그래, 성능은 좋겠지, 하지만 일반 신용카드로 결제할 수나 있을까?"라는 생각이 들었거든요. 그 질문은 저를 깊은 탐구의 길로 이끌었고, 결과적으로 매달 우리 회사의 비용을 수천 달러씩 아껴주었습니다. 핵심은 이겁니다. AI 세계는 근본적으로 변했는데, 대부분의 개발자들은 여전히 2026년의 성능을 2023년의 가격으로 지불하고 있다는 사실입니다.

제가 정확히 무엇을 발견했는지, 무엇을 테스트했는지, 그리고 기존에 지불하던 비용의 아주 일부분만으로 구성된 모델들을 중심으로 어떻게 전체 API 예산을 재편성했는지 설명해 드리겠습니다.

스프레드시트가 제 정신을 혼미하게 만든 순간

약 6개월 전, 저는 매달 청구되는 OpenAI 고지서를 멍하니 바라보고 있었습니다. 4,200달러였습니다. 고객 지원 자동화 파이프라인, 코드 리뷰 봇, 그리고 몇몇 문서 처리 스크립트를 운영하는 작은 팀에게는 엄청난 금액이었죠. 숫자를 가만히 들여다보니 정말 말도 안 되는 수준이었습니다. 토큰 비용으로만 4,200달러라니. 그냥... 텍스트 토큰 값일 뿐인데 말이죠.

그래서 저는 약간 집요한 개발자라면 누구나 할 법한 일을 시작했습니다. 바로 스프레드시트를 만든 것이죠. 제가 찾을 수 있는 모든 모델과 모든 가격 정보를 모았습니다. 그리고 제가 발견한 결과는 진심으로 충격적이었습니다. 이것 좀 보세요. HumanEval (코드 생성)에서 92.0점을 기록하면서 출력 토큰 100만 개당 비용이 0.25달러인 모델이 있습니다. 반면, GPT-4o는 92.5점의 점수를 기록하면서 출력 토큰 100만 개당 10.00달러가 듭니다. 이 차이를 잘 생각해보세요. 벤치마크 점수 0.5점 차이에 가격은 40배나 더 비쌉니다.

저는 돈을 불태우고 있었으면서 그것조차 모르고 있었습니다.

실제 가격 수치 (거짓 없음)

제가 발견한 내용을 정리해 보겠습니다. 숫자가 모든 것을 말해주니까요.

모델	원산지	입력 $/M	출력 $/M	기준 대비 배수
GPT-4o	🇺🇸	$2.50	$10.00	40×
...

마지막 열을 보세요. 처음 이 배수를 계산했을 때, 저는 정말 제가 실수를 했다고 생각했습니다. Claude 3.5 Sonnet의 출력 토큰 비용은 DeepSeek V4 Flash보다 60배나 더 비쌉니다. 60. 배나. 더 비쌉니다.

코드 생성 (Code generation), 요약 (Summarization), 분류 (Classification)가 주를 이루는 저의 워크로드(Workload) 관점에서 볼 때, 그런 비용을 계속 지불해야 할 정당성을 단 하나도 찾을 수 없었습니다.

하지만 잠깐, 정말 성능이 좋을까요?

이 부분이 저를 정말 놀라게 했습니다. 저는 그동안 '저렴하다는 것은 성능이 떨어진다는 뜻'이라고 가정해 왔습니다. 그 가정이 저에게 많은 비용적 손실을 입혔습니다. 커뮤니티 테스트와 저의 자체 평가를 통해 수집한 벤치마크 (Benchmark) 데이터를 공유하겠습니다.

추론 작업 (Reasoning Tasks, MMLU 스타일)

모델 (Model)	점수 (Score)	1M 출력당 비용
Claude 3.5 Sonnet	89.0	$15.00
...

코드 생성 (Code Generation, HumanEval)

모델 (Model)	점수 (Score)	1M당 비용
Claude 3.5 Sonnet	93.0	$15.00
...

중국어 (Chinese Language, C-Eval)

모델 (Model)	점수 (Score)	1M당 비용
GLM-5	91.0	$1.92
...

이것 좀 보세요 — 코드 생성에서 DeepSeek V4 Flash는 92.0점을 기록했습니다. GPT-4o는 92.5점입니다. 차이는 단 0.5점입니다. 하지만 비용 차이는 40배입니다. 만약 코드 벤치마크에서 0.5점을 더 얻기 위해 1M당 $10.00를 지불하고 있다면, 그것은 최적화 (Optimization)를 하는 것이 아닙니다. 기부(Donating)를 하고 있는 것입니다.

저의 실제 테스트 환경 (Real-World Test Setup)

저는 "믿되 검증하라"는 주의라 단순히 벤치마크만 믿지 않았습니다. 직접 A/B 테스트를 수행했습니다. 동일한 프롬프트 (Prompt), 동일한 온도 (Temperature), 동일한 최대 토큰 (max_tokens) 설정을 사용했습니다. 저는 실제 운영 파이프라인 (Production pipeline)에서 세 가지 실제 작업을 선정했습니다:

1. 코드 리뷰 (Code review) — 200줄짜리 함수를 입력하고 문제점을 요청
2. 고객 이메일 분류 (Customer email classification) — 티켓을 8개 카테고리로 분류
3. 문서 요약 (Document summarization) — 2,000단어 분량의 PDF를 200단어로 압축

각 작업에 대해 GPT-4o와 DeepSeek V4 Flash 모두에 1,000개의 요청을 보냈습니다. GPT-4o의 총비용은 $847였습니다. DeepSeek V4 Flash의 총비용은 $21였습니다. 블라인드 테스트 (Blind review) 결과 품질 차이는 어땠을까요? 신뢰할 수 있는 수준에서 두 모델을 구분할 수 없었습니다. 비용 차이는요? 97.5% 절감되었습니다.

오타가 아닙니다. 97.5퍼센트입니다.

다음은 비교를 위해 제가 사용한 실제 코드입니다 (약간 정리되었습니다):

import openai
import time
import json
...

이것을 실제 테스트 스위트(test suite)에 실행해 본 결과, 출력값은 제가 기대했던 것과 정확히 일치했습니다. 그리고 두 모델 모두 동일한 OpenAI SDK 구문을 사용했기 때문에, 제가 바꿔야 했던 유일한 것은 모델 이름뿐이었습니다. 이것이 바로 OpenAI 호환 엔드포인트 (OpenAI-compatible endpoints)의 묘미입니다.

모델별 분석: 현재 제가 실제로 사용하는 모델들

현재 제가 사용하는 스택을 자세히 설명해 보겠습니다. 이 구성을 사용한 지 벌써 4개월이 지났으며, 단 한 번도 후회한 적이 없습니다.

DeepSeek V4 Flash — 워크로드의 80%를 담당하는 기본 모델

이 모델은 실질적인 일꾼입니다. 출력 100만 토큰당 0.25달러라는 비용으로, 저는 코드 리뷰 봇, 분류 파이프라인(classification pipeline), 그리고 요약 서비스를 이 모델로 실행하고 있습니다. 속도는 초당 60토큰 (GPT-4o의 초당 50토큰보다 빠름)이며, 128K 컨텍스트 윈도우 (context window)를 지원하고, 코드 품질도 진심으로 뛰어납니다.

GPT-4o에 비해 부족한 점: 비전 (vision) 기능이 없다는 점과, 모델이 약간 더 "창의적"이어야 하는 특이한 엣지 케이스 (edge cases)들입니다. 하지만 프로덕션 워크로드의 80%를 기준으로 한다면? V4 Flash가 가성비 면에서 압승입니다. 40배 저렴한 것은 그냥 40배 저렴한 것입니다.

Qwen3-32B — 저의 GPT-4o-mini 대체제

중요한 점은, 이제 더 이상 GPT-4o-mini를 사용할 이유가 없다는 것입니다. Qwen3-32B의 출력 비용은 100만 토큰당 0.28달러로, GPT-4o-mini의 0.60달러와 비교됩니다. 이는 2.1배 더 저렴합니다. 게다가 성능도 더 좋습니다. 더 높은 품질, 더 나은 코드 생성, 그리고 중국어 작업에서 현저히 뛰어난 성능을 보여줍니다. 저는 GPT-4o-mini가 우세한 지표를 단 하나도 찾을 수 없었습니다. 제가 스프레드시트에 계산해 둔 2.4배의 가격 차이요? 그것은 순전한 낭비입니다.

Kimi K2.5 — Claude 수준의 추론이 필요할 때

복잡한 다단계 분석, 전략적 계획, 미묘한 뉘앙스의 글쓰기 등 작업에 심도 있는 추론 (reasoning)이 필요할 때는 Kimi K2.5를 사용합니다. 이 모델은 MMLU에서 87.0점을 기록하며 (Claude의 89.0점과 비교), 비용은 100만 토큰당 3.00달러로 Claude의 15.00달러와 비교됩니다. 이는 5배 더 저렴합니다. 제 테스트 결과 추론 품질은 사실상 대등했습니다. 그리고 중국어로 무언가를 수행한다면, K2.5는 Claude를 완전히 압도합니다. 비교 자체가 무의미합니다.

GLM-5 — 중간 정도의 복잡성을 위한 최적의 선택

출력 100만 토큰당 1.92달러인 GLM-5는 저의 "중간 지점 (middle ground)" 모델이 되었습니다. V4 Flash가 충분히 뛰어나지 않지만 Kimi K2.5가 과할 때, GLM-5는 완벽하게 들어맞습니다. 이 모델은 MMLU에서 86.0점을, C-Eval에서는 91.0이라는 놀라운 점수를 기록했습니다. 중국어와 영어가 혼합된 워크로드 (workload)를 처리할 때, 이것이 정답입니다.

접근성 문제 (그리고 제가 해결한 방법)

좋습니다, 가격이 더 저렴하다는 점은 설득되었습니다. 하지만 제가 몇 달 동안 모델을 전환하지 못하게 만들었던 문제는 바로 이것입니다: 이 모델들에 대한 결제가 쉽지 않다는 점입니다.

이것이 대부분의 서구권 개발자들이 이러한 모델들을 시도조차 하지 않는 진짜 이유입니다. 품질 때문도 아니고, 가격 때문도 아닙니다. 실제로 접근권을 얻는 과정에서의 마찰 (friction) 때문입니다.

몇 주 동안 이 문제로 골머리를 앓은 끝에, 저는 해결책을 찾아냈습니다: 바로 Global API입니다. 이는 OpenAI와 호환되는 API 게이트웨이 (gateway)로, 일반적인 PayPal 및 신용카드 결제를 통해 단일 엔드포인트 (endpoint)로 이 모든 중국산 모델들에 접근할 수 있게 해줍니다. 현재 제 프로덕션 코드 (production code)는 다음과 같습니다:

python
import openai
...