물론 Zephyr가 옳습니다. 하지만 벤치마크에만 의존하고, 비용 비효율적이며 조잡하게 홍보되는 K3.1 Pro가 현재 가장 강력한 중국 모델이며 Moonshot도 기회가 있습니다... 그러나 제가 설명하고자 하는 이유들 때문에 저는 비관적입니다.
- 분위기가 좋지 않습니다. 백엔드나 기타 분야에서는 훌륭할 수 있지만, 초기 벤치마크의 일관성(consilience)만으로는 Astra/Sol이나 Fable/Opus가 가진 것과 같은 상당한 일반화 능력이나 '거대 모델 특유의 느낌'을 보지 못합니다. 예를 들어, Extended NYT 연결 및 RuneScape Bench에서 OOM+ 높은 비용에도 불구하고 비슷한 토큰 수를 가졌음에도 V4.1F와 단순히 동등할 뿐이며, 마찬가지로 여러 다른 테스트에서도 그렇습니다. 로봇 제어에서는 실패합니다... 창의적 글쓰기/토론과 같이 규모에 민감한 작업이나, 간단한 벤치마킹(benchmaxing), 증류(distillation) 및 X에서 시연하는 인상적인 3D/SVG 예시와 같은 제한적이지만 유용한 '활용 극대화'(usemaxing) 에 잘 반응하는 일부 에이전트 작업에서는 그 크기와 활성 파라미터 수에 비해 합리적으로 강력합니다. 그리고 이 모델의 어텐션/캐시 시스템은 자체적으로 혁신적이며 LCR에서 좋은 성능을 보이지만, 비용을 악화시키는 요인이 됩니다. 저는 그들이 충분한 RL(강화학습)을 감당할 여력이 없다고 생각하며, 아마도 그들의 RL 인프라도 DSec 시스템보다 뒤처질 수 있습니다. 이는 DS와 Kimi가 규모에 대한 질적으로 다른 가설들을 조사하기로 선택했다는 저의 이론과 일치합니다. 즉, 후처리(post-training)의 정보량을 늘리는 것에 따른 FLOPs(플롭스) 증가를 포기하고 이를 택한 것입니다. 그들은 더 높은 단계별 효율성, 즉 창발적 능력에 더 큰 믿음을 가졌습니다. Wenfeng은 샘플의 다양성, 궤적 길이, 그리고 눈부시게 분기되는 MOPD 교사 플라이휠(teacher flywheel)에 베팅했습니다. DS가 같은 종류의 더 큰 모델을 출시하여 4.1F의 장점을 더욱 끌어올릴 수 있을지는 두고 봐야 합니다 (중국의 대형 모델들은 올해 실망스러웠으며, K3가 가장 명확한 성공이었고 V4-Pro는 가장 쓰라린 실패였습니다). 하지만 V4.1 논문은 그들이 할 수 있음을 시사하며, 만약 그렇게 된다면 완전히 압도적일 것입니다.
- 단순히 사업 실행력이 부족합니다.
Anthropic의 위상과 무관하게, 향후 수익성 높은 틈새시장(에이전트 코딩(agentic coding), B2B)을 선점할 기회가 열릴 것입니다. 미국 컴퓨팅 자원이나 금융 시장 등이 그렇습니다. K3는 그들에게 너무 크고, 컴퓨팅 자원과 메모리 집약적이어서 대규모로 제공하기에는 무리가 있었습니다. 우리는 구독 제한이 작아지고 줄어드는 것을 보고 있습니다. 더 나쁜 것은, 여전히 K2(K2.8)를 가지고 만지작거리고 있다는 점인데, 이는 1T 32AB MLA라는 구식 모델을 '균형 잡히고 효율적인 모델'로 포장하고 있는 것입니다. 그들의 상황에서 이것은 어떤 방식으로도 합리적인 'Flash' 등급이 아닙니다. 설령 이를 DSA 모델(예: GLM 5와 같은 V3.2 세대)로 변환한다고 해도, 단위 경제학(unit economics) 측면에서 V4.1 시리즈와 경쟁할 수 없을 것입니다. 주목할 만한 점은, 현재 그들이 여유 컴퓨팅 자원이 없기 때문에 3.1이나 2.8을 구독 없이 사용할 수 없다는 것입니다. 아무런 어려움 없이 ByteDance Doubao의 DAU(일간 활성 사용자) 중 30%를 무료로 제공하며, V4에서 V4.1으로 단 5개월 만에 전환한 Whale과 비교해 보세요. 그들은 3.1 Flash 모델을 암시하고 있으며, GLM은 유사한 상황에서 이를 성공적으로 수행했지만, 그들은 Flash 모델에 대한 최근 경험이 없습니다. 게다가 'K2.8 Preview'는 9월 11일에 출시되었고, K2.7조차도 기대 이하였다… 따라서 이는 저에게 신뢰를 주지 못합니다.
- 그들은 컴퓨팅 자원을 위해 Alibaba에 크게 의존하고 있습니다. Alibaba는 자체 Qwen 시리즈(곧 출시될 Q4가 K3.1 Pro의 직접적인 경쟁자로 명확히 포지셔닝되어 있음)의 성공에 투자하고 있으며, 단순히 동등한 수준을 넘어서도록 할당량을 주지 않을 것입니다. 따라서 그들은 더 많은 것을 확보해야 합니다. 그들에게는 Whale과 같은 품격 있는 아우라, 국가대표 평판, 인기 하니스(harness)를 이용한 공급업체 종속성(vendor lock), 또는 기타 속임수들이 없습니다. 그러므로 그들은 예상 수익에 대한 논리를 제시해야 합니다. 현재 사실들을 바탕으로 볼 때, 그들이 진지하게 그것을 할 수 있을지는 불분명합니다.
K3.1은 V4.1처럼 저렴하거나 빠르지 않으며, K2처럼 독특한 개성도 없고, 서방의 준최첨단(sub-frontier) 모델들과 차별화되는 특별한 능력도 없습니다 (일부 웹 서비스 기믹을 제외하고). 이는 다리오(Dario)가 싱가포르 환승 스테이션을 폐쇄할 때 넣기 위한 할인된 Claude이며, 매우 빠듯한 구독 제한이 걸려 있습니다. 이러한 측면에서 K3.1은 Qwen에 의해 시장 가치가 떨어질 위험이 있습니다. 여기서의 PMF(Product-Market Fit)는 다소 의심스러우며, 마진율 또한 DS가 보고한 비피크 시간대 85%보다 훨씬 낮을 가능성이 높습니다. 한편, DS는 컴퓨팅 구축을 위해 약 200억 달러를 조달했으며, 그들의 투자자들은 CXMT/GigaDevice, CATL, SMIC와 관련이 있거나 소속되어 있으며, 2027년까지 Ascend 960 생산에 대한 우선권을 확보한 것으로 보입니다. 말 나온 김에, Kimi 역시 국내 컴퓨팅 환경 적응에 뒤처져 있으며, K3 유형의 모델들은 이 부분에서 상당히 느릴 수밖에 없습니다. 따라서 그들은 RL(강화학습) 또는 추론(inference) 볼륨을 따라잡기 위해 충분한 컴퓨팅 자원을 확보하는 데 어려움을 겪을 것이며, 이는 8T 모델이 기본 사양이 되는 시대로 접어들면서 Kimi에게 좋지 않은 신호입니다.
더 나아가, 그들의 오픈 소스 비즈니스 전략 중 한 축은 추론 부하를 분산시키기 위해 서방의 네오클라우드(neoclouds)들과 가격 고정 및 수익 공유 계약을 위한 특별 라이선싱이었습니다. 이미 V4.1F 가중치(MIT) + DeepInfer (Apache 2.0)를 보유한 곳들은 OAI/Ant 구독보다 특정 사용 사례에서 더 매력적인 제안을 할 수 있습니다. 예를 들어, 높은 가격으로 1500 TPS로 서비스를 제공하는 식입니다. 따라서 저는 그들의 시장 점유율과 학습 컴퓨팅 자원 공유가 다시 줄어들고 있다고 의심하며, 이는 V4.1 Pro가 나오기 전의 이야기입니다.
Zephyr가 언급했듯이, 그들은 자금을 보유하고 있으며 IPO를 진행할 것입니다. 그들은 훌륭한 연구소이며 탄탄한 평판을 가지고 있고, 현재로서는 최고의 중국 모델(혹은 돈 대비 최고)을 보유하고 있습니다. 하지만 저는 상황이 위험하다고 생각합니다. 포지션들이 빠르게 잠기고 있으며, 그들은 고갈되어 뒤처지기 전에 방향을 수정하기 위해 정말 좋은 V3.1 Flash와 GPU의 즉각적인 유입이 필요합니다.
@teortaxesTex 나는 당신이 Kimi를 너무 빨리 무시하고 있다고 생각합니다. 그들은 꽤 큰 자금력(whale만큼 크지는 않지만)을 가지고 있으며, IPO를 통해 $5B-$10B를 모금할 것입니다. Kimi는 모델을 더 작은 변형으로 정제할 수 있습니다. 재정적으로 볼 때, GLM이 가장 적은 자금력을 가지고 있습니다.
