스파이크 희소성이 엣지 디바이스 비용 절감에 미치는 영향 분석

요약

본 연구는 스파이킹 신경 연산자(Spiking Neural Operators)가 뉴로모픽 엣지 컴퓨팅에서 가지는 희소성 기반의 에너지 및 지연 시간 이점을 실제 상용 엣지 GPU 환경에서도 유지하는지 검증했습니다. Jetson Orin Nano를 사용하여 변수 스파이킹 웨이블릿 신경 연산자(VS-WNO)와 일반 밀집형 웨이블릿 신경 연산자(WNO)를 비교 분석한 결과, VS-WNO가 알고리즘적으로 높은 희소성을 보였음에도 불구하고 실제 추론 비용(latency 및 energy)은 오히려 밀집형 WNO보다 높게 나타났습니다. 이는 런

핵심 포인트

• 스파이킹 연산자의 이론적 희소성 이점이 상용 엣지 GPU 스택에서는 비용 절감으로 이어지지 않을 수 있다.
• Jetson Orin Nano 환경에서 VS-WNO는 높은 알고리즘적 희소성을 보였으나, 실제 추론 지연 시간과 에너지 소비량은 밀집형 WNO보다 높았다.
• 실제 런타임(runtime)이 스파이크 활동 감소에 따라 밀집된 연산 작업을 줄여주지 못하기 때문에 비용 절감이 일어나지 않는다.
• GPU 커널 실행 시간이 여전히 'launch-dominated'하고 밀집 연산 작업 비중이 높아, 희소성이 활용되지 않았음을 보여준다.