ELSA: 효율적인 뉴로모픽 컴퓨팅을 위한 탄력적 SNN 추론 아키텍처

요약

ELSA는 SNN(Spiking Neural Networks)의 탄력적 추론 특성을 극대화하기 위해 설계된 near-SRAM 데이터플로우 아키텍처입니다. 기존 가속기들이 레이어 단위로 동작하여 응답 지연이 발생하는 문제를 해결하기 위해, 미세한 스파인/토큰 단위의 파이프라인과 최적화된 통신 프로토콜을 도입했습니다. 이를 통해 정확도를 유지하면서도 기존 SOTA 가속기 대비 비약적인 속도 및 에너지 효율 향상을 달성했습니다.

핵심 포인트

• 미세한 스파인/토큰 단위의 파이프라인을 통해 첫 번째 응답까지의 지연 시간(latency)을 대폭 단축
• 번들형 주소 이벤트 표현(bundled AER) 프로토콜을 도입하여 NoC 통신 트래픽 감소
• 미니 배치 스파이킹 Gustavson-product를 활용한 메모리 액세스 최적화 및 희소성 활용
• SOTA QANN 가속기 대비 3.4배 속도 향상 및 13.6배 에너지 효율 달성
• SOTA SNN 가속기 대비 2.9배 속도 향상 및 22.1배 에너지 효율 달성