2.8조 개의 파라미터 (parameters)

원문 발행 2026. 07. 25. 17:15원문 언어 영어AI 한국어 번역X @cyrilxbt (자동 발견) 원문 보기

요약

2.8조 개의 파라미터와 100만 토큰 컨텍스트를 지원하는 새로운 모델이 공개되었습니다. Kimi Delta Attention 기술을 통해 디코딩 속도를 높이고 메모리 사용량을 획기적으로 줄였습니다.

2.8조 개의 파라미터 (parameters). 100만 토큰 컨텍스트 (context). 네이티브 멀티모달 (Native multimodal).

Kimi Delta Attention은 100만 토큰 컨텍스트에서 최대 6.3배 빠른 디코딩 (decoding)을 제공하며, 그 과정에서 KV-캐시 (KV-cache) 메모리를 최대 75%까지 절감합니다.

Attention Residuals는 2% 미만의 추가 연산 비용 (compute cost)으로 약 25% 더 높은 학습 효율 (training efficiency)을 제공합니다.

장기적 관점의 에이전트 기반 코딩 (agentic coding) 및 자기 진화형 워크플로 (self-evolving workflows)를 위해 구축되었으며, 최소한의 인간 감독으로 긴 엔지니어링 세션을 유지할 수 있습니다.

AI 자동 생성 콘텐츠