엔비디아, 최적화를 통해 DeepSeek V4 토큰 비용을 5배 낮추다

요약

NVIDIA는 풀스택 최적화를 통해 DeepSeek V4의 토큰당 비용(CPT)을 최대 5배 절감하고 처리량을 20배 높였다고 발표했습니다. 블랙웰 GPU와 NVLink, NVFP4 등 하드웨어 및 소프트웨어 기술을 결합하여 추론 효율성을 극대화했습니다.

핵심 포인트

• NVIDIA 풀스택 최적화로 DeepSeek V4 토큰 비용 5배 절감
• 블랙웰 GPU 기반의 처리량(Throughput) 최대 20배 향상
• NVLink, NVFP4, 멀티 토큰 예측(MTP) 기술 활용
• TCO(총 소유 비용) 관점에서 CPT(토큰당 비용)의 중요성 강조