메타의 MTIA 컴퓨팅 엔진 로드맵 분석: 차세대 AI 인프라 전망

요약

본 글은 메타(Meta Platforms)가 자체 개발하는 MTIA (Meta Training and Inference Accelerator) 컴퓨팅 엔진의 미래 로드맵을 심층 분석합니다. 과거 DLRM(Deep Learning Recommendation Models)이 벡터 임베딩 공간에 의존했던 것과 달리, 최신 모델인 DLRM v3는 LLM처럼 사용자 활동을 '언어'로 간주하는 생성형 추천기(Generative Recommenders) 방식을 채택합니다. 이러한 변화를 지원하기 위해 메타는 MTIA 100/200 및 차세대 아

핵심 포인트

• 메타의 DLRM은 기존에는 벡터 임베딩 공간에 의존했으나, 최신 버전(DLRM v3)에서는 LLM과 유사하게 사용자 활동을 언어로 간주하는 생성형 추천기(Generative Recommenders) 방식을 채택했습니다.
• 이러한 변화를 지원하기 위해 메타는 MTIA 컴퓨팅 엔진의 아키텍처를 GPU 및 AI XPU와 유사하게 재설계하고 있으며, 이는 빠른 메모리 접근과 높은 컴퓨팅 성능을 요구합니다.
• MTIA 로드맵은 단순히 성능 향상을 넘어, DLRM과 LLM 양쪽 분야 모두에 적용 가능한 HTSU(Hierarchical Sequential Transduction Unit) 기술을 코디자인하여 비용 효율성을 극대화하는 데 초점을 맞추고 있습니다.
• 메타는 MTIA 300 버전을 이미 R&R 트레이닝 워크로드에 투입하고 있으며, 향후 세대 제품들은 이러한 생성형 추천 및 LLM 추론(inference) 작업에 최적화될 것으로 예상됩니다.