엔비디아, AI 인퍼런스 성능 극대화: 플랫폼 전략 재조명

요약

본 기사는 엔비디아가 GPU 중심의 이미지를 넘어선 '플랫폼 기업'으로서의 가치를 강조하며, 최신 AI 인퍼런스 성능 기록을 발표했습니다. 특히 CUDA 플랫폼과 Grace Blackwell 같은 컴퓨트 복합체(compute complexes)를 기반으로 소프트웨어와 하드웨어를 결합한 코디자인 전략이 핵심 동력임을 역설합니다. MLPerf Inference v6.0 벤치마크에서 DeepSeek-R1, GPT-OSS-120B 등 최신 워크로드를 테스트하며 토큰 생성 속도(token generation)와 시간 단축을 입증했습니다. 엔

핵심 포인트

• 엔비디아는 GPU를 넘어선 데이터센터 플랫폼 기업임을 강조하며, 컴퓨트 복합체(Grace Blackwell 등) 및 소프트웨어 생태계가 핵심 성장 동력이라고 설명합니다.
• MLPerf Inference v6.0 벤치마크에는 DeepSeek-R1 Interactive, GPT-OSS-120B 등 최신 AI 워크로드가 포함되어 시장의 변화를 반영했습니다.
• 엔비디아는 인퍼런스(Inference)가 주요 AI 작업 부하로 떠오름에 따라, 소프트웨어 혁신을 통해 토큰 생성 속도와 비용 효율성을 극대화하고 있습니다.
• 최근 엔비디아의 데이터센터 매출은 2026 회계연도 기준 1937억 달러를 기록하며 강력한 성장세를 보였습니다.