중국의 14nm AI 칩이 소프트웨어 정의(software-defined) 및 3D 근접 메모리(3D near-memory) 아키텍처를 통해 520 TFLOPS와 6.4TB/s의 대역폭을 구현하며 첨단 노드 제한을 우회했다고 주장합니다.

중국의 새로운 AI 칩은 소프트웨어 정의 컴퓨팅(software-defined computing)과 3D 근접 메모리(3D near-memory) 아키텍처를 사용하여 14nm 공정에서 520 TFLOPS를 제공합니다. Pandaily에 따르면, 이 설계는 공정 노드 스케일링(process node scaling) 대신 아키텍처 혁신을 통해 6.4 TB/s의 메모리 대역폭(memory bandwidth)을 달성했습니다.

주요 사실 (Key facts)

• 14nm 노드에서 520 TFLOPS 피크 성능 달성
• 3D 근접 메모리 스택(3D near-memory stack)을 통한 6.4 TB/s 메모리 대역폭 확보
• 재구성 가능한 AI 워크로드(AI workloads)를 위한 소프트웨어 정의 컴퓨팅 패브릭(Software-defined compute fabric)
• 독립적인 벤치마크 또는 제3자 검증 결과 미발표
• 전력 소비 및 다이 크기(die size) 미공개

제조사가 공개적으로 밝혀지지 않은 이 칩은 다양한 신경망 토폴로지(neural network topologies)에 맞춰 재구성할 수 있는 소프트웨어 정의 컴퓨팅 패브릭을 통해 AI 추론(inference) 및 학습(training) 워크로드를 목표로 합니다. 3D 근접 메모리 컴퓨팅(3D near-memory computing) 방식은 메모리 다이(memory dies)를 연산 로직 바로 위에 쌓아 올려, 기존의 칩렛(chiplet) 또는 PCB 기반 메모리 아키텍처와 비교했을 때 데이터 이동 지연 시간(latency)과 전력 소비를 줄여줍니다.

아키텍처 세부 사항 (Architecture Details)

China is touting a 14nm logic + 18nm DRAM AI accelerator ...

이 칩은 하드웨어 로직이 제조 시점에 고정되지 않고, 특정 AI 연산을 위해 소프트웨어를 통해 재구성(reconfigure)될 수 있는 '소프트웨어 정의 컴퓨팅 (software-defined computing)' 패러다임을 채택하고 있습니다. 이를 통해 동일한 실리콘(silicon)이 별도의 하드웨어 가속기 없이도 합성곱 계층 (convolutional layers), 트랜스포머 어텐션 메커니즘 (transformer attention mechanisms), 또는 희소 행렬 연산 (sparse matrix operations)에 최적화될 수 있습니다. 출처에 따르면, 3D 근접 메모리 스택 (3D near-memory stack)은 6.4 TB/s의 메모리 대역폭 (memory bandwidth)을 달성하며, 이는 유사한 전력 범위 내의 일반적인 HBM2e 구현보다 약 5배 더 높습니다.

공정 노드 vs 아키텍처 트레이드오프 (Process Node vs. Architecture Trade-off)

14nm 공정 노드를 사용하는 것은 중국이 7nm 이하에 필요한 첨단 EUV 노광 장비에 대한 수출 제한에 직면해 있다는 점에서 의미가 큽니다. 14nm에서 520 TFLOPS를 달성함으로써, 이 설계는 아키텍처 혁신이 공정 노드의 불리함을 부분적으로 보완할 수 있음을 보여줍니다. 비교를 위해, NVIDIA의 A100은 7nm에서 312 TFLOPS를 제공하며, H100은 4nm에서 1,979 TFLOPS를 달성합니다. 중국 칩의 와트당 성능 (performance per watt)은 공개되지 않았습니다.

검증 상태 (Verification Status)

China's Huawei reveals chip design breakthrough amid US ...

주장된 520 TFLOPS 수치는 독립적으로 검증되지 않았습니다. 제3자 벤치마크나 동료 검토 (peer-reviewed)를 거친 출판물은 발표되지 않았습니다. 제조사는 칩의 소비 전력, 다이 크기 (die size), 또는 제조 수율 (manufacturing yield)을 공개하지 않았습니다. [출처에 따르면], 이 칩은 명시되지 않은 중국 국내 고객들을 대상으로 초기 생산 단계에 있습니다.

주목해야 할 점 (What to watch)

중국 AI 연구소 (Baidu, Alibaba, Tencent)의 독립적인 벤치마크 결과나 MLPerf와 같은 제3자 평가를 주목해야 합니다. 추론 중심 워크로드 (inference-heavy workloads)에서 NVIDIA의 H100과 비교한 이 칩의 실제 성능이 아키텍처가 진정으로 공정 노드의 우위를 대체할 수 있는지 여부를 결정할 것입니다.

출처: pandaily.com

[7월 14일 pandaily를 통해 업데이트됨]

South China Morning Post의 보도에 따르면, 이 칩은 국가 기금과 국내 기술 거물들의 지원을 받는 상하이 기반 스타트업인 Dongfang Suanxin에 의해 개발되었습니다. 이 회사는 월요일, 자사의 전략이 소프트웨어 정의 컴퓨팅 (software-defined computing)과 3D 적층 근접 메모리 아키텍처 (3D-stacked near-memory architecture)에 의존하여 첨단 제조 공정에 대한 의존도를 낮추고 미국의 수출 통제를 우회하는 것이라고 발표했습니다. [per SCMP]

원문 게시: gentic.news