에이전트 AI 시대, 샌바노바가 엔비디아의 GPU 헤게모니에 도전하는 방식

요약

본문은 에이전트 AI(Agentic AI) 환경에서 발생하는 대규모 추론 비용 문제를 지적하며, 이 문제를 해결하기 위한 새로운 하드웨어 아키텍처의 필요성을 강조합니다. 샌바노바 시스템즈는 최근 $350M 규모의 Series E 투자를 유치하고, 차세대 컴퓨팅 엔진인 'Cerulean 2' SN50을 공개했습니다. SN50은 재구성 가능한 데이터 유닛(RDU) 구조를 기반으로 하며, SRAM과 HBM 등 메모리 계층 구조 최적화와 PCU/PMU 코어 증설 및 공정 미세화를 통해 기존 대비 높은 성능 향상을 목표로 합니다. 이는 엔비

핵심 포인트

• 에이전트 AI는 복잡한 워크플로우와 대규모 추론(inference)을 요구하므로, 토큰 처리량 증가에 맞춰 추론 비용을 획기적으로 낮추는 것이 필수적입니다.
• 샌바노바 시스템즈는 $350M 규모의 Series E 투자를 유치하며, 차세대 컴퓨팅 엔진인 SN50 (Cerulean 2)을 통해 엔비디아 GPU에 대항하는 아키텍처를 제시했습니다.
• SN50은 재구성 가능한 데이터 유닛(RDU) 구조로, PCU와 PMU 같은 요소들을 활용하며, SRAM과 HBM 등 메모리 계층 구조 최적화가 핵심 혁신입니다.
• SN50은 SN40L 대비 2.5배의 성능 향상(FP16 기준)을 주장하며, FP8 지원 추가 시에는 최대 5배의 성능 향상을 기대할 수 있습니다.