A3C3: AI 알고리즘 및 가속기 공동 설계(Co-design), 공동 탐색(Co-search), 공동 생성(Co-generation)
요약
A3C3는 AI 알고리즘과 가속기를 개별적으로 설계하던 기존 방식에서 벗어나, 신경망 구조와 하드웨어 구현을 동시에 최적화하는 통합 방법론입니다. 이를 통해 정확도, 지연 시간, 에너지 효율성 간의 균형을 맞춘 최적의 모델-가속기 쌍을 자동으로 생성할 수 있습니다.
핵심 포인트
- 알고리즘과 하드웨어의 공동 설계(Co-design)를 통한 시스템 효율성 극대화
- 기존 하향식(Top-down) 설계 방식의 비효율성 및 최적화 문제 해결
- 정확도, 지연 시간, 처리량, 에너지 효율성 간의 최적 균형 탐색
- 매개변수화된 설계 공간을 통한 모델-가속기 쌍의 자동 생성
우리는 인공지능 (AI) 알고리즘 및 가속기 공동 설계 (Co-design), 공동 탐색 (Co-search), 공동 생성 (Co-generation)을 위한 통합적인 방법론인 A3C3를 제시합니다. 이는 기존의 하향식 (Top-down) AI 시스템 설계 흐름의 비효율성을 해결하기 위해 신경망 구조 (Neural network architectures)와 그 하드웨어 구현 (Hardware implementations)을 공동으로 최적화합니다. 전통적인 AI 배포 방식은 모델 설계와 하드웨어 매핑을 별개의 단계로 취급하는 경우가 많습니다. 즉, 먼저 정확도를 위해 알고리즘을 개발한 다음, 그 이후에야 지연 시간 (Latency), 처리량 (Throughput), 에너지 또는 리소스 제약 조건을 충족하도록 적응시킵니다. 이러한 분리는 특히 현대의 AI 워크로드 (Workloads)가 점점 더 이기종화 (Heterogeneous)되고, 메모리 집약적 (Memory-intensive)이며, 플랫폼 의존적 (Platform-dependent)이 됨에 따라 최적화되지 않은 시스템으로 이어질 수 있습니다. 대신 A3C3는 알고리즘 및 가속기 설계 공간 (Design spaces)을 모두 매개변수화하고 이를 공동으로 탐색하여, 정확도, 지연 시간, 처리량, 에너지 효율성 및 하드웨어 활용도 (Hardware utilization) 사이의 균형을 더 잘 맞추는 모델-가속기 쌍을 자동으로 생성할 수 있게 합니다. 이 기사는 Sudeep Pasricha와 Muhammad Shafique가 편집하고 Springer Nature에서 발행한 Handbook of Embedded Machine Learning의 한 장(Book chapter)입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기