Kimi K3는 Claude Fable 5와 GPT-5.6 Sol을 앞지르고 Arena 코딩 리더보드 1위를 차지했다는 대담한 주장과 함께 시장에 등장했습니다. 그 후 가격이 발표되었는데, 출력(output) 비용이 K2.6의 27 CNY에서 100만 토큰당 100 CNY로 인상되었습니다.

제품 팀에게 이것은 단순한 가격 불만이 아닙니다. 이것은 라우팅(routing) 결정에 관한 문제입니다.

기존의 가정: 하나의 모델, 하나의 가격

대부분의 AI 제품 팀은 하나의 모델을 선택하고 그 모델을 중심으로 구축했습니다. 토큰 요율은 하나의 항목일 뿐이었습니다. 새로운 모델이 출시되면, 전환하거나 혹은 전환하지 않거나 둘 중 하나였습니다. 결정은 이분법적이었습니다.

K3는 그 가정을 깨뜨립니다. K2.6은 여전히 사용 가능하며 더 저렴합니다. K3는 더 유능하지만 3.5배 더 비쌉니다. 두 모델 모두 동일한 제공업체로부터 제공되며, 동일한 API 인터페이스(API surface)를 가집니다. 이제 질문은 "어떤 모델을 쓸 것인가?"가 아니라 "어떤 작업에 어떤 모델을 쓸 것인가?"가 되었습니다.

작업 수준의 라우팅 프레임워크

하나의 모델을 선택하는 대신, 작업 특성에 따라 선택하는 라우팅 계층(routing layer)을 구축하십시오:

중요한 지표: 수락된 작업당 비용

토큰당 비용은 제품 결정을 내리기 위한 잘못된 단위입니다. 중요한 것은 팀이 수락하고 출시하는 작업 결과물을 생성하는 데 드는 총비용입니다.

만약 K3가 리팩터링(refactoring) 작업을 첫 번째 시도에 성공하고 K2.6이 세 번의 재시도(retries)를 필요로 한다면, K3는 토큰당 비용이 3.5배 비쌈에도 불구하고 더 저렴할 수 있습니다. 만약 K2.6이 상용구 코드(boilerplate)를 잘 처리한다면, 이를 K3로 라우팅하는 것은 돈을 낭비하는 것입니다.

K3 수요가 보여주는 것

K3는 출시 48시간 이내에 Kimi가 신규 구독을 중단할 정도로 인기가 높았습니다. 클러스터가 부하를 감당할 수 없었기 때문입니다. 이는 두 가지를 시사합니다:

1. 더 높은 가격이라 할지라도 더 나은 코딩 모델에 대한 실제 수요가 존재합니다.
2. 병목 현상은 모델의 품질이 아니라 컴퓨팅 용량(Compute capacity)입니다.

제품 팀(Product teams)의 경우, 이는 여러분의 인프라 결정이 중요하다는 것을 의미합니다. 만약 모든 요청을 가장 성능이 좋은 모델로 라우팅(Routing)한다면, 속도 제한(Rate limits)에 걸리거나 액세스 중단(Suspended access) 상황에 직면할 수 있습니다. 간단한 작업에 대해서는 더 저렴한 모델로 전환(Fallback)하는 라우팅 계층(Routing layer)을 갖추는 것이 서비스 중단(Outages)으로부터 여러분을 보호해 줍니다.

이 프레임워크가 수행하지 않는 것

이것은 의사결정 프레임워크(Decision framework)이지, 벤치마크(Benchmark)가 아닙니다. 저는 특정 작업에 대해 K3를 K2.6과 비교 측정하지 않았습니다. 위의 라우팅 테이블(Routing table)은 Arena 순위와 가격 데이터를 기반으로 한 가설일 뿐, 검증된 결과가 아닙니다. 라우팅 전략(Routing strategy)을 확정하기 전에 반드시 자체적인 작업 수준(Task-level) 비교를 수행해야 합니다.

또한 이 프레임워크는 두 모델이 모두 사용 가능하다는 것을 전제로 합니다. 2026-07-21 기준으로 K3 구독은 일시 중단된 상태입니다. 여러분의 라우팅 계층(Routing layer)에는 반드시 폴백 계획(Fallback plan)이 필요합니다.

출처

• K3 Arena 순위: 2026-07-17 보고됨
• K3 API 가격: 출력 토큰 100 CNY/M, 입력 토큰 20 CNY/M (Moonshot AI)
• K2.6 API 가격: 출력 토큰 27 CNY/M, 입력 토큰 6.5 CNY/M
• 구독 중단: Moonshot AI 공지, 2026-07-19

공개 사항: 저는 MonkeyCode 사용자로서 저의 개인적인 경험을 공유하는 것이며, 해당 프로젝트와 관련이 없습니다. MonkeyCode는 오픈 소스 AI 코딩 플랫폼입니다: https://github.com/chaitin/MonkeyCode