ThermoDSE: 칩렛 기반 DNN 가속기를 위한 열 인지 및 포괄적인 설계 공간 탐색
요약
본 연구는 칩렛 기반 DNN 가속기를 위한 열 인지 및 포괄적인 설계 공간 탐색 프레임워크인 ThermoDSE를 제안합니다. 이 프레임워크는 아키텍처, 작업 오케스트레이션, 칩렛 간 통신을 통합적으로 고려하며, 엄격한 열/면적 제약 하에서 최적화를 수행합니다. 실험 결과, 기존 최고 성능 모델 대비 에너지-지연-수율(E $\times$ D $\times$ 1/Y) 측면에서 최대 3.5배 향상을 보였습니다.
핵심 포인트
- 칩렛 기반 DNN 가속기의 열 및 면적 제약 문제를 해결하는 프레임워크를 제시함.
- ThermoDSE는 아키텍처, 작업 오케스트레이션, 통신을 통합적으로 고려하는 것이 특징임.
- 기존 모델 대비 에너지-지연-수율(E $\times$ D $\times$ 1/Y) 측면에서 최대 3.5배 성능 향상을 달성함.
칩렛(Chiplet)-기반 DNN 가속기는 현대 AI 워크로드를 위해 성능과 수율을 균형 있게 맞출 수 있는 확장 가능한 경로를 제공합니다. 하지만 이러한 시스템은 면적 및 열 제약이라는 중요한 과제에 직면해 있습니다. 설계 공간 최적화는 세밀한 작업 모델링(fine-grained task modeling), 칩렛 세분성(chiplet granularity), 코어 세분성(core granularity) 및 중요한 물리적 제약을 공동으로 고려해야 합니다. 저희가 아는 한, 이는 이 모든 요소를 포함하는 최초의 프레임워크입니다. 본 연구에서는 칩렛 기반 DNN 가속기를 위한 열 인지 및 포괄적인 설계 공간 탐색 프레임워크인 ThermoDSE를 제안합니다. ThermoDSE는 기존의 세밀한 모델링 기술들을 통합하여, 엄격한 열 및 면적 제약 하에서 아키텍처 설계, 작업 오케스트레이션(task orchestration), 그리고 칩렛 간 통신을 공동으로 고려하는 통합 시뮬레이션 및 최적화 프레임워크를 구축합니다. 실험 결과에 따르면, ThermoDSE는 기존의 최고 성능 모델인 Simba 및 기타 기준선과 비교하여 Energy-Delay-Inverse-Yield (E $ imes$ D $ imes$ 1/Y) 측면에서 최대 3.5배 향상을 달성했습니다. 또한, 시뮬레이티드 어닐링(simulated annealing) 및 강화학습(reinforcement learning) 기반 방법과 비교했을 때, ThermoDSE는 각각 3.7배 및 29.4배의 실행 시간 속도 향상으로 더 나은 설계 지점에 수렴합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기