TPU v5p 'Ironwood' 출시, TPU 8t 대비 3배 성능 향상

요약

Google은 대규모 훈련 및 추론 처리량을 위해 설계된 새로운 TPU v5p 칩 'Ironwood'를 발표했다. 기존 TPU 8t 대비 포드당 FP4 성능이 약 3 배 개선되었으며, 칩 간 ICI 네트워크 대역폭은 2 배 증가했다. 포드 내 칩 수는 9600 개로 확대되어 엑사플롭스 단위의 연산 능력도 크게 향상되었다.

핵심 포인트

• 새로운 TPU v5p 'Ironwood'가 대규모 훈련 및 추론 처리량을 위해 설계됨
• TPU 8t 대비 포드당 FP4 성능이 약 3 배 개선되고 칩당 ICI 네트워크 대역폭은 2 배 증가함
• 포드 내 칩 수는 9600 개로 확대되어 연산 능력 (121 엑사플롭스) 이 크게 향상됨