Kimi K3 공개 - 개방형 프론티어 인텔리전스
요약
Kimi K3는 자체 아키텍처의 나노 모델을 구동할 전용 칩 설계 능력을 보여주었으며, 시뮬레이션상 초당 8,700토큰 이상의 디코딩 처리량을 달성했습니다. 이 모델은 2.8조 매개변수로 공개된 대형 언어 모델 중 선두에 위치하며, 기술 보고서와 가중치는 추후 공개될 예정입니다.
핵심 포인트
- Kimi K3는 전용 칩 설계 능력을 입증하며 하드웨어 최적화 역량을 보여줌.
- 2.8조 매개변수로 현재까지 가장 큰 규모의 공개 모델 중 하나로 주목받음.
- 기술 보고서와 가중치는 추후 공개될 예정이며, 성능 지표가 높게 평가됨.
- 토크나이저 효율성 등 여러 측면에서 경쟁 우위를 점하고 있음.
초기 개념 증명으로 Kimi K3가 자체 아키텍처의 나노 모델을 구동할 칩을 설계했다는 점이 놀라움 48시간 자율 실행 한 번으로 오픈소스 EDA 도구와 Nangate 45nm 라이브러리를 이용해 설계·최적화·검증까지 마쳤고, 4mm²에서 100MHz 타이밍을 충족하며 시뮬레이션상 초당 8,700토큰 이상의 디코딩 처리량을 달성함
146만 개 표준 셀, 0.277MB SRAM, 융합 역양자화를 지원하는 INT4 MAC 배열까지 포함해 모델이 모델용 칩을 만든 장기 작업 역량을 보여줌
토크나이저 차이도 중요함
같은 텍스트라도 Anthropic 토크나이저는 OpenAI보다 훨씬 많은 토큰으로 인코딩할 수 있음
Kimi의 실질적인 경쟁 상대는 GLM이라고 보는데, GLM 5.2는 가격이 3분의 1도 되지 않음
재출시된 Fable로 앱을 만들 때 성능은 훌륭했지만 추론 과정이 완전히 불투명했음
반면 Kimi는 의미 있을 만큼의 전체 추론 과정을 보여줘서 이상한 우회와 방향 전환을 직접 확인할 수 있고, 아이디어도 훨씬 철저하게 디버깅할 수 있음
다른 LLM이 풀지 못했던 개인적인 틈새 주제에서도 상당히 진전한 듯해 더 시험해볼 생각임
2.8조 매개변수 모델은 이윤을 고려해도 추론 비용 자체가 높음
오픈소스로 공개된다면 100만 토큰당 $10~12 정도로 내려갈 수도 있다고 봄
빠른 시작 문서가 실제 벤치마크를 기술 블로그로 넘기는데, 그 블로그에는 K3가 없고 두 세대 전인 K2.6이 마지막이라 뭔가 빠진 느낌임
Kimi 측 평가에서 K3는 종합 지능이 Claude Fable 5와 GPT-5.6 Sol 다음이며, 전체 가중치와 아키텍처·학습·평가를 담은 기술 보고서를 곧 공개할 예정이라고 함 GDPval-AA v2에서 1687점으로 Claude Fable 5 Max와 GPT-5.6 Sol Max 다음이고 Claude Opus 4.8 Max의 1600점보다 높음
비공개 장기 지식 작업 벤치마크인 AA-Briefcase에서는 1527점으로 Fable 5 Max 다음이자 GPT-5.6 Sol Max의 1495점보다 앞서며, 또 한 번의 DeepSeek 같은 순간일 수도 있어 보임
두 모델보다 뒤라면 2위가 아니라 3위라고 봐야 함
GDPval-AA v2는 Sonnet 5가 Opus 4.8 Max보다 높은 벤치마크이기도 함
이제 모든 공개 가중치 모델이 놀라운 점수를 내놓아서 벤치마크만으로는 전체를 알 수 없고, 평가 데이터가 학습 데이터에 유출됐거나 의도적으로 포함됐다고 의심할 수밖에 없음
DeepSeek가 충격적이었던 이유는 비용이 10배 저렴했기 때문임
K3는 Sol보다 약 2배 저렴한 수준이라 토큰 효율 차이와 오차 범위에 가까우며, 공개 모델이 최전선 연구소를 따라잡는 기존 추세의 연장이지 DeepSeek처럼 추세 자체를 바꾼 사건은 아니라고 봄
Kimi K3는 2.8조 매개변수로 가장 큰 공개 모델 목록의 선두에 놓임
Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T(활성 49B), Kimi K2.6 약 1T(활성 32B), GLM-5.2 754B(활성 40B), DeepSeek-V3.2 685B, Mistral Large 3 675B 순임
엄청나게 큰 모델이라 Moonshot이 이를 운영하려면 올해 초 조달했다고 알려진 5억 달러가 필요할 듯함
실제로 공개 가중치가 될지는 더 지켜봐야 하며, 현재는 활성 매개변수 수조차 알려지지 않음
Ling/Ring 1T-A50B와 새 Inkling 975B-A41B도 이 목록에 들어갈 만함
Google 계정을 쓰거나 전화번호를 제공하지 않고 Kimi K3를 시험할 방법이 있는지 궁금함
Kimi K3 블로그가 공개됨: https://www.kimi.com/blog/kimi-k3 2.8조 매개변수 공개 모델로 100만 토큰 문맥 길이와 시각 입력을 기본 지원하며, 기술 보고서와 가중치는 7월 27일까지 공개될 예정임
출시 시에는 최대 추론 강도가 기본이고 낮음·높음 모드는 추후 업데이트로 추가됨
벤치마크 수치가 놀라울 정도임
중국이 미국보다 6개월 뒤처졌던 시기는 끝난 것인지, 훨씬 적은 자원으로 어떻게 이런 결과를 내는지 궁금하고 연구자들이 대단하게 느껴짐
첫 시도에서 Kimi K3가 Fable 5도 여러 번 찾지 못한 버그의 원인을 바로 찾아냄
아직 사용량이 적은 단일 사례일 뿐이지만 현재까지는 매우 유망해 보임
구독 한도는 상당히 가혹함 $100 구독의 할당량 소진 속도가 Fable을 쓰는 Anthropic의 $200 구독과 비슷하게 느껴지지만, 모델 자체는 훌륭해서 Opus 4.8보다 높게 평가할 수도 있겠음
Claude Code나 VS Code용 Codex 확장, Vim 키 바인딩을 적용한 Codex CLI처럼 에이전트형 작업에 Kimi를 쓰는 방법이 궁금함
OpenRouter에도 비슷한 도구가 있는지 알고 싶음
AI 자동 생성 콘텐츠
본 콘텐츠는 GeekNews의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기