FAME: 패턴 기반 DNN 재학습을 통한 근사 곱셈기 평가를 위한 FPGA 플랫폼
요약
본 논문은 DNN 추론의 오차를 줄이는 근사 곱셈기 평가의 어려움을 해결하기 위해 FPGA 기반 플랫폼 FAME을 제안합니다. FAME은 하드웨어에 직접 구현하여 기존 CPU/GPU 방식 대비 평가 시간을 크게 단축하며, 패턴 기반 재학습 기법으로 정확도 저하까지 효과적으로 개선했습니다.
핵심 포인트
- FAME: 근사 곱셈기 평가를 위한 FPGA 플랫폼을 제안합니다.
- FPGA 활용으로 LUT 에뮬레이션 오버헤드를 제거하고 속도를 향상시킵니다.
- 패턴 기반 재학습 기법으로 정확도 저하 문제를 효과적으로 완화했습니다.
- ImageNet 데이터셋에서 최대 3.47배의 속도 향상을 달성했습니다.
근사 곱셈기는 심층 신경망(DNN) 추론에서 하드웨어 면적과 에너지 소비를 줄일 수 있지만, 계산 오차를 유발합니다. 다양한 DNN 모델과 대규모 데이터셋에 걸쳐 수많은 근사 곱셈기 설계의 정확도를 평가하는 것은 엄청난 평가 시간 때문에 여전히 어렵습니다. 이러한 오버헤드는 주로 CPU 및 GPU 플랫폼에서 룩업 테이블(LUTs)을 사용하여 근사 곱셈기의 동작을 에뮬레이션하는 것이 느리기 때문에 발생합니다. 더욱이, 그 결과로 발생하는 정확도 저하를 신중하게 정량화하고, 필요한 경우 완화(예: 재학습을 통해)해야 하므로 전체 평가 비용이 증가합니다. 이러한 문제들을 해결하기 위해, 우리는 근사 곱셈기 평가를 위한 FPGA 기반 플랫폼인 FAME을 제안합니다. 이 플랫폼은 Field-Programmable Gate Arrays (FPGAs)의 재구성 가능한 로직을 활용하여 근사 곱셈기를 하드웨어에 직접 구현함으로써, CPU/GPU 플랫폼에서의 LUT 기반 에뮬레이션 필요성을 제거하고 대규모 데이터셋에서 효율적인 DNN 추론을 가능하게 하면서 평가 시간을 크게 단축합니다. 나아가, 우리는 근사 곱셈기에 의해 유도된 정확도 저하를 완화하기 위한 패턴 기반 DNN 재학습 기법을 도입합니다. 구체적으로, 재학습은 곱셈기별 패턴에 의해 안내되어 잠재적인 정확도 손실을 효과적으로 복구합니다. 우리는 ImageNet 데이터셋에서 ResNet-18과 MobileNetV2 두 가지 DNN 모델을 사용하여 27개의 근사 곱셈기로 FAME을 평가했습니다. 추론 과정 동안, 우리의 접근 방식은 기존의 LUT 기반 에뮬레이션 방법 대비 근사 곱셈기 평가에서 최대 3.47배의 속도 향상을 달성합니다. 또한, 제안된 재학습 기법은 평가된 곱셈기에 대해 기존 재학습 접근 방식보다 최대 65.5% 정확도를 향상시킵니다. 코드는 다음에서 공개적으로 이용 가능합니다: https://github.com/gicLAB/FAME
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기