스파이킹 신경 연산자(Spiking Neural Operators)는 이벤트 기반의 특성 덕분에 뉴로모픽 엣지 컴퓨팅 분야에서 큰 주목을 받고 있습니다. 이론적으로 스파이크 활동의 희소성은 낮은 지연 시간과 에너지 효율성을 가능하게 합니다.

하지만 이러한 알고리즘적 이점이 실제 상용 엣지 GPU 소프트웨어 스택에서도 유지되는지는 불분명합니다. 본 연구는 Jetson Orin Nano 환경에서 변수 스파이킹 웨이블릿 신경 연산자(VS-WNO)와 밀집형 웨이블릿 신경 연산자(WNO)를 비교 분석했습니다.

결과는 흥미로웠습니다. VS-WNO는 참조 경로(reference-aligned path)에서 평균 스파이크율이 크게 감소하는 등 높은 희소성을 보였습니다. 그러나 실제 배포 환경을 모사한 요청 경로(deployment-style request path)에서는 이러한 희소성이 추론 비용 절감으로 이어지지 않았습니다.

실제 측정 결과, VS-WNO는 지연 시간 59.6 ms와 동적 에너지 228.0 mJ를 기록하며, 밀집형 WNO(지연 시간 53.2 ms, 에너지 180.7 mJ)보다 성능이 떨어졌습니다. 또한, 분석 결과 Nsight Systems는 GPU 커널 실행 시간이 여전히 'launch-dominated'하고 밀집 연산 작업 비중이 높다는 것을 보여주었습니다.

결론적으로, Jetson과 같은 상용 GPU 스택에서는 스파이크 희소성이 측정되더라도 런타임 자체가 이를 활용하여 밀집된 작업을 줄여주지 못하기 때문에 실제 비용 절감 효과를 얻기 어렵습니다.