M100: 범용 AI 컴퓨팅을 위한 데이터플로우 아키텍처

요약

AI 기술 발전과 함께 범용 AI 컴퓨팅 수요가 증가하고 있습니다. 기존 GPGPU는 유연하지만 효율성과 비용 면에서 한계가 있으며, DSA는 특정 작업에만 국한되는 문제가 있습니다. Li Auto의 M100은 이러한 문제를 해결하기 위해 개발된 데이터플로우 병렬 아키텍처입니다. M100은 컴파일러-아키텍처 공동 설계를 통해 계산뿐 아니라 시간과 공간을 넘나드는 데이터 이동까지 최적화합니다. 특히 캐싱(caching) 의존도를 크게 낮추고, 텐서(tensor)를 기본 데이터 요소로 사용하여 효율성과 확장성을 높였습니다. M100은자

핵심 포인트

• M100은 자율주행(AD), LLMs 등 다양한 AI 추론 작업에 최적화된 데이터플로우 아키텍처입니다.
• 컴파일러-아키텍처 공동 설계를 통해 데이터 이동까지 통합적으로 관리하여 효율성을 극대화했습니다.
• 캐싱 의존도를 낮추고 컴파일러/런타임이 관리하는 데이터 스트림을 활용해 시스템 복잡도와 비용을 절감했습니다.
• 텐서(tensor)를 기본 데이터 요소로 삼아 범용 AI 컴퓨팅 능력을 입증했으며, GPGPU 대비 우수한 성능을 보였습니다.