출처 1: https://wccftech.com/nvidia-slashes-deepseek-v4-token-costs-by-up-to-5x-one-month-after-launch/

엔비디아는 각종 풀스택 최적화를 통해 DeepSeek V4의 토큰 비용을 최대 5배 낮출 수 있었다고 밝혔습니다. 엔비디아는 블랙웰 GPU에서 토큰 비용을 낮출 뿐 아니라 성능도 크게 높일 수 있었습니다.

엔비디아는 AI 분야에서 총 소유 비용, TCO를 강조했고 이제는 토큰 당 비용, CPT를 강조하고 있습니다. 이러한 토큰 비용 절감은 개별 최적화를 엔비디아 GPU의 시스템 수준으로 전환함으로써 가능했습니다. 여러 추론 소프트웨어 스택을 연결하고 최적화했습니다.

여기에 엔비디아 NVLink, NVFP4, 멀티 토큰 예측(MTP) 등의 기술을 결함해 성능 향상을 달성했습니다. 그 결과 처리량이 최대 20배 높아졌습니다. 비용 측면에서는 토큰 당 비용을 최대 5배까지 낮춤으로써 토큰 당 비용이 TCO의 핵심 지표임을 보였습니다.