Loihi 2 상의 Locally Competitive Algorithm을 통한 Convolutional Sparse Coding

Sparse coding (희소 코딩)은 입력을 소수의 기저 함수 (basis functions)들의 선형 결합으로 표현함으로써 신호 표현을 위한 원칙적인 프레임워크를 제공합니다. Locally Competitive Algorithm (LCA)은 그 역학(dynamics)인 누설 통합 (leaky integration), 임계값 처리 (thresholding), 그리고 측면 억제 (lateral inhibition)가 뉴로모픽 하드웨어 (neuromorphic hardware)에 자연스럽게 매핑되기 때문에 뉴로모픽 컴퓨팅 (neuromorphic computing) 맥락에서 특히 매력적입니다. 기존 연구들이 Loihi 2 상에서 비합성(non-convolutional) LCA를 연구해 왔으나, 합성(convolutional) 설정은 공간적 구조 (spatial structure), 가중치 공유 (weight sharing), 중첩되는 수용장 (overlapping receptive fields), 그리고 실제적인 희소 추론 (sparse inference) 워크로드를 더 잘 나타내는 스케일링 동작 (scaling behavior)을 도입하기 때문에 특히 흥미롭습니다. 본 연구에서는 LCA를 통한 합성 Sparse coding의 Loihi 2 구현을 제시하고, 동일한 추론 문제에 대해 기존의 GPU 베이스라인 (baseline)과 비교 평가합니다. 이 구현은 단일 레이어 순환 (recurrent) LCA 공식을 따르며, 이를 쌍별 필터 상호작용 (pairwise filter interactions)에서 유도된 국소 억제 커널 (local inhibitory kernels)을 가진 합성 특징 맵 (convolutional feature maps)으로 확장합니다. 저희가 알고 있는 바로는, 이것이 Loihi 2 상에서 합성 LCA를 구현하고 벤치마크한 첫 번째 사례입니다. 저희의 목표는 단순히 실현 가능성을 입증하는 것뿐만 아니라, 어떤 동작 영역 (operating regimes)에서 합성 희소 추론 (convolutional sparse inference)이 뉴로모픽 하드웨어에서 매력적이게 되는지를 명확히 하는 것입니다. 결과적으로 본 연구는 합성 LCA를 차세대 뉴로모픽 시스템 상의 구조화된 희소 추론 (structured sparse inference)을 위한 유용한 벤치마크로 자리매김합니다.