지난달에 저는 약간 창피한 일을 했습니다. 제 AI 청구서를 감사해 보았는데, CSV 파일을 재형식화(reformat)하는 데 토큰당 20달러짜리 모델을 사용하고 있었다는 사실을 깨달았습니다. 0.18달러짜리 모델로도 충분히 잘 수행할 수 있는 작업이었는데 말이죠.

동일한 결과물에 대해 114배의 가격 차이가 나는 것입니다. 그리고 이것은 제가 2026년에 LLM (Large Language Models)으로 서비스를 구축하며 배운 가장 유용한 사실입니다. 기본적으로 손이 가는 모델이 해당 작업에 필요한 모델인 경우는 거의 없다는 것입니다.

저는 OpenAI, Anthropic, Google, xAI, 그리고 DeepSeek의 주요 모델 17개에 대한 표준 API 가격 목록을 추출했습니다 (2026년 6월 기준, 각 제공업체의 가격 페이지 기준). 여기 아무도 슬라이드에 담지 않는 격차가 있습니다:

모델	제공업체	혼합된 $/1M 토큰
DeepSeek V4 Flash	DeepSeek	$0.18
...
(혼합된 가격(Blended) = 입력 대 출력 비율을 3:1로 설정하여 모든 것을 하나의 수치로 순위를 매긴 것입니다. 배치(Batch) 및 캐시된 입력(cached-input) 할인을 적용하면 50~90%까지 낮출 수 있지만, 상대적인 격차는 유지됩니다.)

17개 모델 전체의 중앙값 혼합 비용은 약 100만 토큰당 2달러입니다. 프런티어 모델(frontier models)은 이보다 10배 더 비쌉니다. 따라서 질문은 결코 "어떤 AI가 최고인가"가 아닙니다. 질문은 "이 작업의 기준을 통과하는 가장 저렴한 모델은 무엇인가"가 되어야 합니다.

내가 실제로 실행하는 4가지 질문

저는 모델 이름을 외우려는 시도를 멈추고 (어차피 매달 바뀌니까요), 모든 작업에 대해 동일한 네 가지 질문을 던지기 시작했습니다. 이것이 의사결정 트리의 전부입니다.

1. 이 작업은 오류가 크게 발생하는가, 아니면 조용히 발생하는가?

틀린 답이 명백하고 잡아내기 쉬운 경우(재형식화, 추출, 상용구, 어차피 편집할 초안 등)에는 능력이 있는 가장 저렴한 모델을 사용하세요. 현재 DeepSeek Flash와 Gemini Flash는 이런 작업에 말도 안 되게 뛰어납니다. 만약 틀린 답이 미묘하고 잡아내기 비싼 경우(법률적 추론, 보안에 민감한 코드, 의료 또는 금융 콘텐츠, 사람이 확인 없이 신뢰할 만한 모든 것)에는 프런티어 모델에 비용을 지불하세요. 잘못된 답변 하나가 조용히 발생하는 비용은 API 절감액보다 훨씬 큽니다.

2. 컨텍스트(context)의 길이는 어느 정도인가?

긴 문서(Long documents)는 "저렴한" 모델들이 조용히 비용을 발생시키는 지점입니다. 토큰당 비용을 지불해야 하는데, 200페이지 분량의 PDF는 엄청난 양의 토큰이기 때문입니다. 여기서 계산법이 뒤집힙니다. 강력한 긴 컨텍스트(long-context) 처리 능력과 낮은 입력 가격(input price)을 가진 모델이, 여러 번의 반복 작업(multiple passes)이 필요한 "더 똑똑한" 모델보다 종종 더 유리합니다. 특히 입력(input) 가격을 구체적으로 확인하세요. 긴 컨텍스트 작업은 입력 비중이 매우 높으며, 출력 가격(입력보다 중간값 기준 6배 높음)은 상대적으로 덜 중요하기 때문입니다.

3. 대화형(interactive)인가, 배치(batch)인가?

만약 사람이 응답을 기다리고 있다면, 지연 시간(latency)은 하나의 기능(feature)이며 당신은 속도에 비용을 지불합니다. 만약 밤새 실행되거나 큐(queue)에서 돌아가는 작업이라면, 배치 API(어디서나 대략 절반 가격)와 더 저렴한 모델을 사용하세요. 저는 모든 비대화형 작업을 배치로 옮겼고, 그 결과 제 청구 금액은 그 어떤 모델 교체보다 더 많이 줄어들었습니다.

4. 동일한 프롬프트(prompt)를 10,000번 보낼 것인가?

시스템 프롬프트(system prompt)나 컨텍스트(context)가 호출 간에 안정적이라면, 캐시된 입력(cached input)은 종종 90%까지 할인됩니다. 이는 계산 방식 전체를 바꿔 놓습니다. 호출당 비용이 비싸 보이는 모델이라도, 캐시가 작동하기 시작하면 대규모(scale) 환경에서는 가장 저렴한 모델이 될 수 있습니다. 거의 아무도 이 점을 고려하지 않습니다.

제공업체별 솔직한 분석

• DeepSeek는 가격의 하한선입니다. 혼합 중간값은 약 $0.36입니다. 대량의 작업 중 오류가 명확히 드러나도 괜찮은(fail-loudly) 작업에는 이 모델에 반박하기 어렵습니다.
• **xAI (Grok)**와 **Google (Gemini Flash)**는 저렴하면서도 유능한 구간에 위치하며, 혼합 가격은 대략 $0.5에서 $1 사이입니다. 저의 기본 설정은 "충분히 괜찮고, 대량 처리가 필요한" 작업용입니다.
• OpenAI는 가장 넓은 범위를 아우릅니다 (mini 티어는 $0.70 미만, frontier 모델은 $11 이상). 하나의 API로 전체 계층을 실행할 수 있는데, 이는 작업별로 모델을 전환할 때 과소평가되는 장점입니다.
• Anthropic은 작업이 조용히 실패할(fails silently) 때 제가 찾는 곳입니다. 혼합 중간값은 $8이며, Fable 5의 경우 최대 $20까지 올라갑니다. 비싸지만, 잘못된 답변이 토큰 비용보다 더 큰 손실을 초래할 때 정확히 그만한 가치가 있습니다.

함정은 이 중 어느 하나를 "나의 모델"로 취급하는 것입니다. 2026년에 현명하게 비용을 쓰는 사람들은 작업별로(per task) 경로를 지정합니다. 단순 반복 작업에는 Flash를, 실제로 중요한 5%의 작업에는 frontier 모델을 사용합니다.

이것을 외우고 싶지 않은 분들을 위한 지름길

저는 이 로직을 그대로 활용하여 무료 도구를 만들었습니다. 세 가지 질문(작업 유형, 예산, 그리고 가장 중요하게 생각하는 요소: 품질, 비용, 속도 또는 개인정보 보호)에 답하면, 해당 특정 작업에 적합한 상위 3개 모델을 순위별로 보여주며, 솔직한 한 줄 "이유"와 실제 API 비용을 함께 제공합니다. 회원가입, 로그인, 이메일 인증 절차는 없습니다.

The AI Model Picker

이 도구는 위에서 언급한 것과 동일한 가격 데이터(모두 제공업체 페이지에서 수집되었으며 매달 업데이트됨)를 기반으로 구축되었습니다. 만약 오래된 수치를 발견하신다면 저에게 알려주세요. 바로 수정하겠습니다.

한 줄 요약

"가장 좋은 AI 모델이 무엇인가"라고 묻지 마세요. 대신 "이 작업, 이 컨텍스트 길이(context length), 이 볼륨(volume)에서 기준치를 통과하는 가장 저렴한 모델은 무엇인가"라고 물으세요. 이 네 가지 질문을 실행하면 품질 저하를 느끼지 못하면서도 청구 금액을 줄일 수 있습니다. 왜냐하면 품질 저하는 품질이 애초에 제약 조건이 아니었던 작업에서 발생하기 때문입니다.

이러한 솔직하고 검증된 분석(어떤 AI 도구가 실제로 가치가 있는지, 어떤 것이 거품인지 등)을 더 자세히 보고 싶으시다면, 유용한 정보가 될 수 있도록 텔레그램(Telegram)의 작은 일일 AI 채널에 게시하고 있습니다: t.me/aitoolsinsiderhq. 스팸은 없으며, 제가 직접 확인한 효과적인 정보만을 공유합니다.

여러분의 라우팅 규칙(routing rule)은 무엇인가요? 사람들이 기본적으로 하나의 모델만 사용하는지, 아니면 실제로 작업마다 모델을 전환하는지 궁금합니다. 댓글로 알려주세요.