테슬라가 최근 테이프아웃(Tape-out)을 진행한 차세대 AI5 칩 스펙을 들여다보다가 감탄했습니다.

서버용 AI 칩도 아니고,

자동차나 로봇에 들어가는 '추론 전용 칩' 주제에 무려 192GB LPDDR5X를 때려 박았거든요.

엔비디아처럼 초고가 HBM을 안 쓰고 스마트폰용 LPDDR5X를 선택한 이유,

그리고 이게 FSD V12의 엔드투엔드(End-to-End) 신경망과 물리적으로 어떻게 맞물려 돌아가는지 아키텍처 관점에서 정리해 봤습니다.

1. 왜 비싼 HBM 대신 대용량 LPDDR5X인가?

핵심은 "테슬라의 워크로드와 대량 생산 현실에 맞춘 극강의 가성비 설계"입니다.

가격과 공급망: HBM을 붙이려면 TSMC의 CoWoS 같은 특수 패키징이 필수라 단가가 비싸고 수급도 빡빡합니다.

일론 머스크의 말처럼 일반 메모리를 쓰면 총 RAM 용량을 훨씬 싸게 확보할 수 있습니다.

수백만 대에 들어가는 자동차/옵티머스에는 이 비용 차이가 치명적이죠.

발열과 전력: HBM은 3D 스택과 TSV 구조라 전기를 많이 먹고 열이 심합니다.

여름철 땡볕 아래 달리는 차 안에서 칩이 열받아 다운되면 대형 사고입니다.

반면 LPDDR5X는 검증된 모바일용 저전력 메모리라 차량 환경에 훨씬 안전합니다.

단순한 패키징: AI5는 유기 기판(Organic Substrate) 위에 칩 다이 중앙을 두고,

주변에 16GB LPDDR5X 패키지 12개를 양쪽에 3개씩 두 줄로 배치했습니다.

고가의 실리콘 인터포저 없이 일반 파운드리 공정으로 쉽게 만들 수 있어 수율과 비용 면에서 완벽에 가깝습니다

2. "HBM보다 속도가 느린 건 어떻게 해결했나?

"엔비디아 방식과 테슬라 방식은 접근하는 철학 자체가 다릅니다.

엔비디아 (복잡한 도시 교통): 데이터가 어디서 불규칙하게 튈지 모르는 범용 워크로드라,

무조건 넓은 고속도로(HBM)와 거대한 캐시에 의존해야 합니다.

테슬라 AI5 (공장 컨베이어 벨트): 데이터의 이동 경로가 예측 가능한 정적(Deterministic) 구조입니다.

AI5는 시스톨릭 어레이(Systolic Array) + 컴파일러가 미리 결정한 정적 스케줄 + 명시적 DMA + 대용량 온칩 SRAM으로 동작합니다.

데이터가 언제 어느 연산부로 갈지 미리 알고 있기 때문에,

DMA로 LPDDR5X에서 온칩 SRAM(Scratchpad)으로 미리 배달해 둡니다.

HBM급의 극단적인 피크 대역폭이 없어도 데이터 이동 지연(Latency)을 효율적으로 숨길 수 있고,

실제 연산 시 유효 대역폭은 온칩 SRAM 쪽에서 충분히 높게 나옵니다.

3. E2E 신경망과 192GB 메모리의 물리적 결합

FSD V12부터는 카메라 픽셀 입력부터 핸들/가속 제어까지 통째로 하나의 거대한 신경망(World Model / VLA Model)으로 처리합니다.

신경망 연산의 물리적 본질은 거대한 행렬 곱셈 입니다.

8개 카메라로 들어오는 실시간 입력 데이터 벡터에,

학습된 신경망의 거대한 가중치 행렬을 계속 곱하는 연산의 연속이죠.

가중치 100% 상주 (In-Memory): 신경망 덩치가 수십~수백 GB로 커지면,

메모리가 작을 때 가중치를 제때 못 불러와 칩이 멍때리는 '메모리 병목'이 생깁니다.

192GB라는 거대한 용량이 확보되면 거대 엔드투엔드 모델의 모든 가중치를 LPDDR5X에 100% 로딩해 둘 수 있습니다.

외부 저장장치를 뒤질 필요 없이 실시간으로 행렬 곱을 때려버리니 지연 시간이 제로에 가까워집니다.

4. 차세대 모델을 위한 엄청난 마진

AI4 대비 메모리 용량은 약 9배, 대역폭은 5배 수준으로 크게 늘어난 것으로 알려져 있습니다.

192GB라는 용량 덕분에 현재 E2E 모델을 통째로 올리고도 메모리가 많이 남습니다.

향후 OTA(무선 업데이트)로 신경망 덩치가 몇 배로 커지거나,

차 안에서 주행 AI와 옵티머스 제어 AI를 동시에 돌려도 하드웨어 교체 없이 전부 수용할 수 있는 엄청난 마진을 확보한 셈입니다.

결국 AI5의 192GB LPDDR5X 선택은 무조건적인 'HBM 만능주의'를 비웃는 테슬라 특유의 지독한 실용주의 엔지니어링입니다.

저렴하고 차가운 모바일 메모리를 빽빽하게 박아서,

거대 엔드투엔드 신경망의 행렬 연산을 에지 환경에서 가장 싸고,

차갑고, 빠르게 돌리는 아키텍처를 완성했습니다.