국소 가소성(Local Plasticity)을 이용한 하이브리드 ANN-SNN 파이프라인
요약
사전 학습된 ANN의 임베딩을 활용하여 고성능 SNN을 구현하는 하이브리드 ANN-SNN 파이프라인을 제안합니다. 국소 학습 규칙을 통해 생물학적 타당성을 확보하며, ImageNet 벤치마크에서 기존 딥 네트워크와 대등한 성능을 입증했습니다.
핵심 포인트
- EfficientNet 인코더와 CoLaNET 스파이킹 분류기 결합
- 레이트 코딩을 통한 ANN 활성화 값의 스파이크 변환
- 엔드 투 엔드 그래디언트 전파를 우회하는 국소 학습 규칙 적용
- ImageNet 64개 클래스 벤치마크에서 99.09% 정확도 달성
본 연구는 고성능 스파이킹 신경망 (SNNs)을 구현하기 위해 사전 학습된 인공 신경망 (ANNs)의 풍부한 임베딩 (embeddings)을 효과적으로 활용하는 하이브리드 ANN-SNN 파이프라인을 제안합니다. 이 아키텍처는 사전 학습된 EfficientNet 인코더와 CoLaNET 스파이킹 분류기 (spiking classifier)를 결합합니다. 우리는 레이트 코딩 (rate-coding)을 통해 인코더의 활성화 (activations)를 스파이크 열 (spike trains)로 변환하며, 엔드 투 엔드 (end-to-end) 그래디언트 전파 (gradient propagation)를 우회하여 생물학적 영감을 받은 국소 학습 규칙 (local learning rules)을 사용하여 후속 SNN 분류기를 학습시킵니다. 이 접근 방식은 64개 클래스의 ImageNet 벤치마크에서 99.09%의 정확도를 달성하여, 기존의 딥 네트워크 (deep networks)와 대등한 성능을 입증했습니다. 본 연구는 강력한 사전 학습된 인코더를 다운스트림 (downstream) 스파이킹 신경망 작업에 적응시키기 위한 생물학적으로 타당하고 효율적인 프레임워크를 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기