몇 주 동안 중국 AI 모델들을 테스트해 보았습니다. 승자는 저를 놀라게 했습니다.
요약
작성자가 몇 주간 DeepSeek, Qwen, Kimi, GLM 등 중국 AI 모델들을 직접 테스트한 결과입니다. 비용 효율성과 성능 측면에서 DeepSeek V4 Flash가 매우 뛰어난 결과를 보여주었습니다.
핵심 포인트
- DeepSeek V4 Flash는 매우 저렴한 비용과 빠른 속도를 제공함
- DeepSeek는 코드 리팩토링 및 콘텐츠 생성에서 GPT-4o와 경쟁 가능
- 다양한 중국 모델(Qwen, Kimi, GLM)의 성능과 가격을 직접 비교 테스트함
- 실제 운영 환경과 유사한 사이드 프로젝트를 통해 실질적인 성능 검증
자, 사실은 이렇습니다. 저는 몇 주 동안 중국 AI 모델들을 테스트해 보았습니다. 승자는 저를 놀라게 했습니다.
자, 상황을 말씀드리자면 — 저는 약 3년 동안 인디 SaaS 제품들을 만들어 왔는데, 제 AWS 비용이 말도 안 되게 비싸지고 있었습니다. 모든 것에 GPT-4o를 사용한다고요? 아니요, 그건 안 됩니다. 돈을 너무 많이 쓰고 있었거든요. 그래서 저는 Global API의 통합 엔드포인트를 통해 제가 손에 넣을 수 있는 모든 중국 모델을 시도해 보는 '토끼굴(rabbit hole)' 속으로 빠져들었습니다.
DeepSeek, Qwen, Kimi, GLM. 전부 다요. 몇 주 동안 말이죠. 저는 작은 테스트 스크립트를 만들고, 각 모델에 동일한 프롬프트 (prompts)를 실행하고, 출력값을 추적하고, 지연 시간 (latency)을 측정하며, 기본적으로 완전히 너드 (nerd) 모드로 들어갔습니다. 여기 제가 실제로 발견한 것들이 있습니다 — 마케팅 블로그가 여러분에게 생각하게 만들고 싶어 하는 내용이 아니라 말이죠.
솔직히 말해서, 저는 이것이 명확하게 "X가 승자다"라고 결론 나는 상황을 예상했습니다. 하지만 전혀 그렇지 않았습니다. 전혀요.
설정: 제가 실제로 이것들을 어떻게 테스트했는가
본론으로 들어가기 전에, 제 설정에 대해 설명하겠습니다. 이것이 중요하다고 생각하기 때문입니다. 저는 하나의 API 키로 Global API를 사용했고, 요청 (requests)에서 모델 이름만 교체했습니다. 매우 깔끔했죠. 동일한 프롬프트 (prompts), 동일한 파라미터 (parameters), 동일한 테스트 케이스 (test cases). 2주 동안 모델당 약 200개 이상의 요청을 수행했습니다.
저는 다음 항목들을 테스트했습니다:
- 속도 (초당 토큰 수)
- 코드 품질 (HumanEval 스타일의 문제들)
- 중국어 작업 (번역, 요약)
- 영어 추론 (English reasoning)
- 지원되는 경우 비전 (Vision) 작업
- 가격 현실 (백만 토큰당 실제로 지불한 금액)
저는 각 모델을 한 번에 일주일씩 사용하여 사이드 프로젝트(제 커뮤니티를 위한 Discord 봇)를 구축했습니다. 단순한 장난감 예제가 아닌, 실제 운영 환경과 유사한 사용 방식이었습니다. 그 부분은 가격 현실을 파악하는 데 매우 중요합니다.
요약 수치 (빨리 훑어보고 싶은 분들을 위해)
보세요, 여러분 중 일부는 그냥 스프레드시트 같은 정보만 원한다는 것을 알고 있습니다. 핵심은 이렇습니다:
| 항목 | DeepSeek | Qwen | Kimi | GLM |
|---|---|---|---|---|
| 개발사 | DeepSeek (幻方) | Alibaba (阿里) | Moonshot (月之暗面) | Zhipu (智谱) |
| ... |
하지만 문제는 — 저 표는 시작점에 불과하다는 것입니다. 제 실제 경험을 바탕으로 각 모델이 무엇을 잘하는지 실제로 안내해 드리겠습니다.
DeepSeek: 제가 계속 다시 찾게 된 모델
솔직히 말씀드리겠습니다. 객관적이려고 정말 노력했습니다. 정말로요. 하지만 DeepSeek V4 Flash는 제 일상적인 작업에서 계속해서 승리했습니다.
출력 토큰 100만 개(M)당 0.25달러라는 가격은 거의 말도 안 되는 수준입니다. 콘텐츠 생성, 코드 리팩토링 (code refactoring), 심지어 가벼운 추론 (reasoning)에 이르기까지, 대부분의 사용 사례에서 솔직히 GPT-4o와 경쟁할 만한 품질을 보여줍니다. 그리고 속도(SPEED)가 엄청납니다. 초당 약 60토큰 정도인데, 이는 실제로 사용해 보며 모든 것이 얼마나 빠릿빠릿하게 느껴지는지 체감하기 전까지는 그저 마케팅 용어처럼 들릴 수도 있습니다.
제 테스트 중 실제 사례를 하나 말씀드리자면, 짧은 설명이 필요한 기능을 구축하고 있었습니다:
from openai import OpenAI
client = OpenAI(
...
이 모델의 코드 생성 (code generation) 능력은 진정으로 최상위권입니다. 예를 들어, HumanEval 스타일의 문제들을 실행해 보았을 때 서구권의 프런티어 모델 (frontier models)들과 일관되게 대등하거나 오히려 앞서는 모습을 보였습니다. 제 Discord 봇의 코드 리뷰 기능요? V4 Flash로 교체한 이후 다시는 예전으로 돌아가지 않았습니다.
제가 테스트한 DeepSeek 전체 라인업
| 모델 | 출력 $/M | 사용 용도 |
|---|---|---|
| V4 Flash | $0.25 | 말 그대로 일상의 모든 작업 |
| ... |
DeepSeek가 저를 짜증 나게 했던 점
보세요, 완벽한 모델은 없습니다. 비전 (vision) 상황은 좋지 않습니다. DeepSeek는 기본적으로 이미지를 네이티브하게 처리하지 못합니다. 스크린샷을 보거나 차트를 분석해야 한다면 다른 모델을 찾아보세요.
중국어 성능은 좋지만 아주 뛰어나지는 않습니다. 중국어 특화 벤치마크 (benchmarks)에서는 GLM과 Kimi가 DeepSeek를 압도합니다. 중국 고객 지원 로그를 테스트했을 때 이 점을 느꼈는데, 쓸 만하긴 하지만 다른 모델들이 훨씬 더 매끄러웠습니다.
그리고 모델의 다양성요? Qwen에 비하면 상당히 제한적입니다. 기본적으로 5가지 옵션 정도가 전부입니다.
Qwen: 수백만 개의 모델을 가진 모델
Qwen은 중국 AI 모델계의 맥가이버 칼 (Swiss Army knife)입니다. 이는 긍정적인 의미와 부정적인 의미 모두를 담고 있습니다.
Alibaba (네, 바로 '그' Alibaba입니다)가 이 모델의 뒤에 있으며, 이는 기업급 인프라 (enterprise-grade infrastructure)에서 여실히 드러납니다. 모든 것이 그냥 잘 작동합니다. 지연 시간 (latency)은 일정하고, 가동 시간 (uptime)은 견고하며, 3주간의 테스트 기간 동안 API가 단 한 번의 문제도 일으키지 않았습니다.
하지만 정말 놀라운 점은 — Qwen은 모델이 정말 '엄청나게' 많다는 것입니다. 거의 압도적일 정도입니다. 제가 실제로 테스트한 모델들을 정리해 보겠습니다:
| 모델 (Model) | 출력 $ / M | 나의 사용 사례 (My Use Case) |
|---|---|---|
| Qwen3-8B | $0.01 | 아주 작은 분류 작업, 매우 저렴함 |
| ... |
참고로 출력 100만 토큰당 $0.01인 Qwen3-8B는 정말 말도 안 되는 수준입니다. 감성 분석 (sentiment analysis), 간단한 분류, 기본적인 추출과 같은 초경량 작업의 경우, 사실상 비용이 거의 들지 않습니다. 저는 제 Discord 봇의 스팸 탐지에 이 모델을 사용했는데, 비용이 너무 낮아서 결제 대시보드를 다시 확인해야 했을 정도였습니다.
Qwen에서 좋았던 점
비전 모델 (vision models)은 진짜입니다. Qwen3-VL-32B는 제가 예상했던 것보다 이미지 이해 (image understanding) 작업을 더 잘 처리했습니다. GPT-4V 수준까지는 아닐지 몰라도, 출력 100만 토큰당 $0.52라는 가격을 생각하면? 정말 놀라운 수준입니다.
오디오, 비디오, 이미지, 텍스트를 하나로 통합한 옴니 모델 (Omni model)은 비디오 요약 기능을 테스트했을 때 진심으로 인상적이었습니다. 텍스트 전용 모델과는 차원이 다른 괴물 같은 성능을 보여줍니다.
나를 미치게 했던 점
네이밍 (naming)이 엉망진창입니다. 왜 Qwen3.5, Qwen3.6, Qwen3-VL, Qwen3-Omni가 동시에 공존하는 걸까요? 어떤 것이 실제로 최신 버전인지 파악하는 데 너무 많은 시간을 허비했습니다. 솔직히 말해서, 이것 하나만으로도 테스트 도중 Qwen을 몇 번이나 포기하고 싶게 만들었습니다.
또한 일부 모델은 가격이 너무 비싸게 느껴집니다. Qwen3.6-35B가 출력 100만 토큰당 $1라고요? 정확히 무엇을 위한 가격인가요? DeepSeek는 그 4분의 1 가격으로 저에게 비슷한 품질을 제공합니다.
동일한 글로벌 API 엔드포인트 (Global API endpoint)를 통해 일반적인 작업을 수행할 때 Qwen3-32B를 사용하는 방법은 다음과 같습니다:
response = client.chat.completions.create(
model="Qwen/Qwen3-32B",
messages=[{"role": "user", "content": "Write a Python function to merge two sorted lists"}]
...
이 통합된 엔드포인트가 솔직히 가장 좋은 부분입니다. 4개의 서로 다른 API 클라이언트와 인증 방식 (auth schemes)을 번갈아 가며 사용할 필요가 없었으니까요.
Kimi: 두뇌가 실제로 작동해야 할 때
Kimi는 이 그룹 중에서 가장 비싸지만, 그거 아시나요? 때로는 돈을 지불한 만큼의 가치를 얻기도 합니다.
Moonshot AI는 특히 추론 (reasoning)을 염두에 두고 이 모델을 구축했으며, 그 결과가 명확히 드러납니다. 여러 추론을 체인처럼 연결해야 하는 복잡한 다단계 논리 문제들을 주었을 때, Kimi는 그냥... 해결해 버렸습니다. 다른 모델들보다 더 깔끔하고, 더 신뢰할 수 있었습니다.
출력 100만 토큰당 3.00달러인 K2.5 모델이 플래그십이며, 솔직히 순수 추론 작업에 있어서는 그만한 가치가 있습니다. 저는 다음과 같은 작업에 사용했습니다:
- 수학적 증명 (Mathematical proofs)
- 복잡한 코드 아키텍처 결정
- 다중 문서 분석 (Multi-document analysis)
- 전략적 계획 수립 작업
100만 토큰당 3.00달러라는 가격 때문에 매일 사용하는 데일리 드라이버 (daily driver)로 쓰기에는 적합하지 않습니다. 실제적인 추론이 필요하지 않은 거의 모든 작업에서는 과도한 비용을 지불하게 될 것입니다.
하지만 함정이 있습니다 — 바로 속도입니다. Kimi는 네 모델 중 가장 느립니다. 눈에 띌 정도입니다. 실시간 서비스나 사용자 대면 서비스를 구축하고 있다면, 그 지연 시간 (latency)이 분명히 느껴질 것입니다. 제 Discord 봇에 사용해 보았는데 응답 시간이 너무... 길었습니다.
Kimi가 빛나는 부분
추론 벤치마크 (Reasoning benchmarks) — 이 네 모델 중에서는 기본적으로 독보적입니다. AI가 무언가를 실제로 '생각'하며 풀어내야 한다면, Kimi가 최선의 선택입니다.
중국어 능력 또한 탁월합니다 — Moonshot은 이 부분에 상당한 공을 들였습니다. 제가 진행한 일부 중국어 콘텐츠 테스트 결과는 진심으로 인상적이었습니다.
Kimi가 부족한 부분
- 시각 지능 (vision) 지원이 전혀 없음. 제로입니다.
- 전반적으로 느린 추론 (inference) 속도
- 프리미엄 가격 책정으로 인해 사용 시 의도적인 조절이 필요함
- 가장 저렴한 모델조차 100만 토큰당 3.00달러인데, 이는 DeepSeek의 가격에 익숙한 사람들에게는 매우 파격적(wild)인 수준임
GLM: Zhipu의 과소평가된 강자
GLM은 제 테스트 과정에서 가장 큰 놀라움이었습니다. 저는
| 모델 | 출력 비용 $/M | 용도 |
|---|---|---|
| GLM-4-9B | $0.01 | 저예산의 경량 작업 |
| GLM-5 | $1.92 | 최상위권 중국어 성능 |
GLM이 저를 사로잡은 이유
중국어 처리 능력은 진정으로 동급 최고(best-in-class) 수준입니다. 만약 당신의 사용 사례(use case)가 중국어 콘텐츠를 포함한다면 — 저의 경우 중국어 고객 피드백을 처리하고 있었습니다 — GLM은 다른 모델들보다 훨씬 더 자연스럽고 관용적인(idiomatic) 중국어를 생성합니다.
GLM-4.6V 비전(vision) 모델 또한 놀라울 정도로 유능했습니다. GPT-4V만큼 세련되지는 않았지만, 제가 맡긴 스크린샷 분석 작업들을 문제없이 수행했습니다.
GLM이 고전한 부분
영어 성능은 탄탄하지만 DeepSeek 수준에는 미치지 못합니다. 순수하게 영어 비중이 높은 워크로드(workload)라면, 저는 여전히 DeepSeek을 선택할 것입니다.
모델 라인업이 Qwen보다 적습니다. 몇 가지 선택지는 있지만, 모든 것을 다 갖춘(kitchen sink) 방식은 아닙니다.
그리고 솔직히 말해서, 문서화(documentation)와 생태계 지원이 DeepSeek이나 Qwen에 비해 덜 성숙하다는 느낌을 받았습니다. 일부 구현 세부 사항을 파악하기 위해 더 많이 파헤쳐야 했습니다.
사용 사례별 실제 선택
이 모든 테스트를 거친 후, 제가 실제 인디 프로젝트에 이 모델들을 배포한다면 다음과 같습니다:
일상적인 콘텐츠 + 코드 작업 → DeepSeek V4 Flash ($0.25/M). 비교 불가.
초저가 경량 작업 → Qwen3-8B 또는 GLM-4-9B ($0.01/M). 무승부.
고도의 추론 작업 → Kimi K2.5 ($3.00/M). 강력한 지능이 필요할 때.
중국어 중심 콘텐츠 → GLM-5 ($1.92/M). 최고의 중국어 출력.
비전 작업 → Qwen3-VL-32B ($0.52/M). 최고의 멀티모달(multimodal) 균형.
모든 것을 위한 멀티모달 → Qwen3-Omni-30B ($0.52/M). 맥가이버 칼(Swiss Army knife) 같은 존재.
가격에 대한 현실적인 점검
아무도 말해주지 않는 사실이 하나 있습니다. 표시된 가격은 당신이 지불하는 금액이지만, 실제 '비용(COST)'은 당신의 제품에 구축되는 방식에 달려 있습니다.
제가 모든 것을 GPT-4o로 실행했을 때, 활성 사용자가 약 200명 정도인 작은 Discord 봇의 월간 AI 청구서는 400달러 이상이었습니다. 작업의 90%를 DeepSeek V4 Flash로 전환한 후, 그 비용은 50달러 미만으로 떨어졌습니다. 오타가 아닙니다. 50달러. 미만입니다.
더 무거운 추론 (reasoning)이 필요한 나머지 10%의 경우에는 Kimi 또는 Qwen3.5-397B로 선택적으로 라우팅 (route)합니다. 총 청구 금액은요? 이제 월간 약 70~80달러 정도입니다.
400달러 이상이었던 것과 비교해 보세요. 말 그대로 한 달 동안 계약직 직원을 고용할 수 있을 만큼의 비용을 아꼈습니다.
시작하기 전에 알았더라면 좋았을 것들
-
"최고의" 모델은 전적으로 당신의 사용 사례 (use case)에 달려 있습니다. "X가 최고다"라는 식의 기사들(이 글을 포함해서요 ㅋㅋ)을 읽는 것을 멈추고 그냥 직접 테스트해 보세요.
-
Global API와 같은 통합 API (Unified APIs)는 통합 작업 시간을 몇 시간이나 단축해 줍니다. 하나의 클라이언트, 하나의 인증 흐름 (auth flow)만 있으면 모델 이름만 바꾸면 됩니다.
-
속도는 벤치마크 (benchmarks)가 시사하는 것보다 더 중요합니다. 실제 앱에서는 2배 더 느린 모델이 훨씬 더 나쁘게 느껴집니다.
-
각 제품군에서 가장 저렴한 모델도 놀라울 정도로 유능합니다. 0.01달러 미만의 옵션들을 과소평가하지 마세요.
-
중국 모델들은 서구 언론이 시사하는 것보다 훨씬 더 빠르게 따라잡았습니다. 이제 대부분의 작업에서는 차이가 거의 나지 않을 정도입니다.
마치며
좋아요, 제 장황한 이야기를 요약 (TL;DR)하자면 이렇습니다. 가성비 (price-to-performance ratio) 면에서는 DeepSeek V4 Flash가 제 선택입니다. 다양성이 필요하다면 Qwen이 가장 넓은 범위를 제공합니다. 순수 추론 (reasoning) 능력은 Kimi가 승리합니다. GLM은 중국어 분야의 챔피언입니다.
하지만 기본적으로, 적절한 사용 사례라면 어떤 것을 선택해도 틀리지 않을 것입니다. "중국 모델은 그저 GPT의 복제판일 뿐이다"라는 시대는 끝났습니다. 이들은 각자의 강점을 가진 진정으로 경쟁력 있는 모델들입니다.
4개의 서로 다른 API 계정을 설정하는 번거로움 없이 이 모델들을 써보고 싶다면, Global API를 확인해 보라고 말씀드리고 싶네요. 제가 실제로 사용한 것이며, 제 삶을 훨씬 더 편하게 만들어 주었습니다. 하나의 엔드포인트 (endpoint), 하나의 키 (key)로 네 가지 모델 제품군을 모두 사용할 수 있습니다.
이제 이것들로 멋진 것을 만들어 보세요. 진심입니다. 비용 장벽은 이제 사실상 사라졌습니다.
면책 조항: 저는 제 API 사용 비용을 직접 지불하며, 이것은 실제 테스트 후의 솔직한 의견입니다. 가격은 작성 시점 기준이므로, 결정을 내리기 전에 현재 요율을 확인하십시오.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기