CARMEN: 깊은 학습을 위한 자원 효율적인 다중 정밀도 추론 엔진으로 CORDIC 가속화

요약

CARMEN은 자원 효율적인 딥러닝 추론을 위해 설계된 런타임 적응형 다중 정밀도 벡터 엔진입니다. 이 엔진은 CORDIC 알고리즘의 반복 깊이가 계산 정확도를 직접 제어하는 특성을 활용하여, 하드웨어 수정 없이 근사(approximate) 모드와 정확(accurate) 모드 간의 동적 전환을 가능하게 합니다. 이를 통해 전력 및 자원 소모를 최소화하면서도 높은 추론 성능을 달성할 수 있습니다.

핵심 포인트

• CARMEN은 딥러닝 추론에 특화된 다중 정밀도 벡터 엔진입니다.
• CORDIC 알고리즘의 반복 깊이를 활용하여 계산 정확도를 동적으로 제어합니다.
• 하드웨어 수정 없이 근사(approximate) 및 정확(accurate) 실행 모드를 전환할 수 있습니다.
• 저자원 반복 CORDIC 기반 MAC 유닛을 사용하여 전력 효율성을 극대화했습니다.