공간-시간 캐싱 및 스플라인 컨볼루션을 활용한 초저지연 25-$ ext{μ}$s/이벤트 기반 그래프 신경망 프로세서
요약
본 논문은 Dynamic-vision-sensor (DVS) 카메라의 이벤트를 처리하는 초저지연 그래프 신경망 프로세서 ETHEREAL을 제안합니다. ETHEREAL은 스플라인 컨볼루션 엔진과 공간-시간 캐싱 메커니즘을 통합한 2D/3D 분할 메모리 계층 구조를 갖추고 있습니다. 이를 통해 최신 워크로드에서 이벤트당 1.7μJ의 낮은 에너지 소비와 25.6μs의 초저지연 추론 성능을 달성했습니다.
핵심 포인트
- DVS 카메라 기반 이벤트를 처리하는 EV-GNN 가속기 ETHEREAL 제시
- 이웃 병렬 스플라인 컨볼루션 엔진 및 공간-시간 캐싱 활용
- 최신 워크로드에서 25.6μs의 초저지연 성능 달성
- 이벤트당 낮은 에너지 소비(1.7μJ)를 구현하여 효율성 입증
Dynamic-vision-sensor (DVS) 카메라는 $ ext{μ}$s 수준의 시간 해상도로 픽셀별 이벤트를 생성하며, 이는 표준 프레임 기반 비전과는 다른 알고리즘-하드웨어 공동 설계 접근 방식을 요구합니다. 이벤트 기반 그래프 신경망(EV-GNNs)이 유망한 알고리즘적 해결책으로 부상하고 있지만, 밀집형-정규 계산 연산과 희소-불규칙 메모리 액세스를 혼합함으로써 새로운 하드웨어(HW) 과제를 야기합니다. 우리는 이웃 병렬 스플라인 컨볼루션 엔진과 새로운 관심 영역(region-of-interest) 공간-시간 캐싱 메커니즘을 갖춘 2D/3D 분할 메모리 계층 구조를 통해 640$ imes$480 해상도까지 확장 가능한 최초의 EV-GNN 가속기인 ETHEREAL을 제시합니다. 측정 결과는 최신 워크로드에서 엔드투엔드 추론 시 25.6$ ext{μ}$s 지연 시간과 이벤트당 1.7$ ext{μ}$J 에너지를 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기