Moonshot AI는 지난주 Hugging Face에 Kimi K3 웨이트(weights)를 공개했으며, 이 리포지토리는 즉시 우리 대부분이 본 것 중 가장 큰 규모의 오픈 웨이트(open-weight) 체크포인트 중 하나가 되었습니다. 정확히 무엇이 공개되었고 파일들이 어떻게 구성되어 있는지 파악하려 한다면 공식 리포지토리가 가장 확실한 출처(source of truth)이지만, 약 1.5 TB의 용량과 100개 이상의 파일로 이루어져 있어 파악하는 데 시간이 걸립니다.

저는 현재의 Hugging Face 리비전(revision), 파일 레이아웃(layout), 그리고 라이선스 요약을 정리한 OpenK3라는 독립적인 참조 자료를 만들었습니다. 이 포스트에서는 이를 구축하면서 배운 내용을 설명합니다.

실제로 공개된 내용

moonshotai/Kimi-K3 리포지토리는 2.8T 파라미터 규모의 희소 MoE (Sparse MoE) 모델을 위한 전체 웨이트(weights)를 포함하고 있습니다. 이 글을 쓰는 시점을 기준으로, 체크포인트는 96개의 safetensors 샤드(shards)와 config.json, 토크나이저(tokenizer) 파일, 모델 인덱스 매핑(model index mappings), 평가 메타데이터(evaluation metadata)와 같은 일반적인 지원 파일들로 구성되어 있습니다.

다운로드를 계획 중이라면 알아두어야 할 핵심 사항:

• 전체 체크포인트는 약 1.56 TB의 safetensors로 구성됩니다.
• MXFP4 압축을 사용하므로, 이를 처리할 수 있는 서빙 소프트웨어가 필요합니다 (vLLM과 SGLang은 GPU 세대에 따른 주의 사항이 있을 수 있으나, 출시 당일 또는 그에 준하는 지원을 제공합니다).
• 리포지토리에는 보고된 벤치마크 메타데이터를 설명하는 .eval_results/*.yaml 파일도 포함되어 있습니다. 이것들은 독립적인 테스트 결과가 아니라, Moonshot이 모델과 함께 공개한 평가 설정/출력값입니다.

리포지토리 레이아웃 한눈에 보기

이전에 더 작은 모델들만 다뤄보았다면 파일 트리가 놀라울 수 있습니다. 샤드(shard) 파일 외에도 다음과 같은 파일들을 볼 수 있습니다:

• config.json — 아키텍처(architecture) 및 양자화(quantization) 설정
• tokenizer.json / tokenizer_config.json — 토크나이저(tokenizer) 및 특수 토큰(special tokens)
• model.safetensors.index.json — 논리적 레이어(logical layer) 이름을 샤드 파일에 매핑
• generation_config.json — 기본 생성(generation) 파라미터
• .eval_results/*.yaml — 보고된 평가(eval) 메타데이터
• 라이선스(License) 파일들

레이아웃에 대한 더 자세한 내용은 여기에서 확인하실 수 있습니다: Kimi K3 오픈 웨이트 가이드.

리비전 고정(Revision Pinning)을 통한 다운로드

리포지토리(repo)의 크기가 매우 크기 때문에, 다운로드 중간에 업스트림(upstream) 리비전이 변경되었다는 사실을 알게 되는 상황을 피해야 합니다. 클론(clone)할 때 리비전을 고정하세요:

huggingface-cli download moonshotai/Kimi-K3 \
  --revision 9f62e4e9fffbd0a83ddd60e1c209d828994b3569 \
  --local-dir ./Kimi-K3

해당 리비전은 제가 문서화한 레이아웃과 일치합니다. 만약 더 최신 리비전이 보인다면, 어떤 가이드를 최신으로 간주하기 전에 파일 개수와 구조를 다시 한번 확인하십시오.

셀프 호스팅(Self-host) 전, 라이선스 확인

Kimi K3는 표준 OSI 승인 라이선스가 아닌 커스텀 라이선스(custom license) 하에 출시되었습니다. 상업적 이용(Commercial use)은 허용되지만, 수익 구간(revenue-tier)에 따른 조건과 금지된 사용 사례가 존재합니다. 상업적 이용 약관을 쉬운 언어로 이곳에 요약해 두었으나, 이는 독립적인 참고 자료일 뿐입니다. 법적 조언이 아니며, 직접 라이선스를 읽는 것을 대신할 수 없습니다: Kimi K3 라이선스 요약.

결론

K3 출시는 오픈 웨이트(open-weight) 프런티어 모델(frontier models) 분야에서 매우 중요한 사건이지만, 실질적인 장벽은 단순히 하드웨어뿐만이 아닙니다. 무엇을 다운로드하고 있는지, 그리고 그것으로 무엇을 할 수 있는지 아는 것도 중요합니다. Moonshot AI의 공식 문서와 리포지토리를 기본 출처로 사용하시고, 더 빠른 파악을 원하신다면 OpenK3를 보조적인 지도(map)로 활용하십시오.

이미 체크포인트(checkpoint)를 다운로드하셨다면, 어떤 서빙 스택(serving stack)이 효과적이었는지 댓글로 알려주시면 감사하겠습니다.