CARMEN: 깊은 학습을 위한 자원 효율적인 다중 정밀도 추론 엔진으로 CORDIC 가속화
요약
CARMEN은 자원 효율적인 딥러닝 추론을 위해 설계된 런타임 적응형 다중 정밀도 벡터 엔진입니다. 이 엔진은 CORDIC 알고리즘의 반복 깊이가 계산 정확도를 직접 제어하는 특성을 활용하여, 하드웨어 수정 없이 근사(approximate) 모드와 정확(accurate) 모드 간의 동적 전환을 가능하게 합니다. 이를 통해 전력 및 자원 소모를 최소화하면서도 높은 추론 성능을 달성할 수 있습니다.
핵심 포인트
- CARMEN은 딥러닝 추론에 특화된 다중 정밀도 벡터 엔진입니다.
- CORDIC 알고리즘의 반복 깊이를 활용하여 계산 정확도를 동적으로 제어합니다.
- 하드웨어 수정 없이 근사(approximate) 및 정확(accurate) 실행 모드를 전환할 수 있습니다.
- 저자원 반복 CORDIC 기반 MAC 유닛을 사용하여 전력 효율성을 극대화했습니다.
본 논문은 자원 효율적인 딥러닝 추론을 위한 런타임 적응형, CORDIC 가속 다중 정밀도 벡터 엔진인 CARMEN을 제시합니다. 핵심 통찰력은 CORDIC 반복 깊이가 계산 정확도를 직접적으로 제어한다는 것이며, 이는 하드웨어 수정 없이 근사(approximate) 실행 모드와 정확(accurate) 실행 모드 간의 동적 전환을 가능하게 합니다. 이 아키텍처는 저자원 반복 CORDIC 기반 MAC 유닛과 시간-m
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기3