요약

DeepSeek-V4는 1.6조 개의 매개변수와 100만 토큰의 컨텍스트 창을 자랑하는 최신 대규모 언어 모델입니다. 이 모델은 Hybrid Attention(CSA + HCA) 아키텍처를 도입하여 KV 캐시 사용량을 90%까지 줄이는 혁신적인 효율성을 달성했습니다. 또한, V4-Flash 버전은 매우 낮은 비용($0.28/M 토큰)으로 높은 성능을 제공하며, API 이용부터 자체 호스팅(vLLM/SGLang)에 이르기까지 다양한 활용 방안을 제시합니다.

핵심 포인트

• DeepSeek-V4는 1.6T 매개변수와 100만 토큰의 대규모 컨텍스트 처리가 가능합니다.
• Hybrid Attention(CSA + HCA) 구조를 통해 KV 캐시 사용량을 90% 절감하여 효율성을 극대화했습니다.
• V4-Flash 버전은 경쟁 모델 대비 현저히 낮은 비용($0.28/M 토큰)으로 높은 성능을 제공합니다.
• API 서비스 이용뿐만 아니라 vLLM이나 SGLang 같은 도구를 사용한 자체 호스팅(Self-hosting)도 가능하여 유연성이 높습니다.