Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
엣지 컴퓨팅 환경에서 지속 학습(Continual Learning)을 가속화하기 위한 새로운 IMC 시스템인 CLASP를 제안합니다. BEOL 호환 ECRAM 장치를 활용하여 데이터 이동 문제를 해결하고, 기존 GPU 학습 대비 67배 빠른 속도와 132배의 에너지 절감을 달성했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기자율 주행 차량 및 스마트 센싱 장치와 같은 여러 엣지 컴퓨팅 (edge computing) 플랫폼은 현장에서의 새로운 데이터로부터 학습함으로써 실시간으로 동적인 환경에 적응해야 합니다. 지속 학습 (Continual learning)은 (치명적 망각 (catastrophic forgetting)을 방지하기 위해) 이전에 학습된 데이터의 고도로 요약된 버전과 최근에 감지된 데이터를 성공적으로 결합하는 기술을 통합함으로써, 엣지 학습을 위한 유망한 솔루션으로 부상했습니다. 그러나 다른 머신러닝 (ML) 알고리즘과 마찬가지로, 지속 학습은 범용 CPU/GPU와 메모리 사이에서 상당한 데이터 이동을 발생시켜 엣지 플랫폼에 대한 지속 학습의 적합성에 영향을 미칩니다. 인메모리 컴퓨팅 (IMC; processing-using-memory라고도 함)은 이러한 낭비를 줄이고 엣지에서 지속 학습을 가능하게 할 수 있지만, 두 가지 독특한 과제에 직면해 있습니다: (1) IMC 아키텍처는 학습 정확도를 크게 해치는 노이즈가 있는 연산 작업을 사용하며, (2) IMC 아키텍처는 자원 효율적인 학습에 대해 지원이 부족하거나 종종 불완전합니다. 이러한 과제를 해결하기 위해, 우리는 우리가 아는 한 지속 학습을 위한 IMC 가속을 제공하는 최초의 엔드 투 엔드 (end-to-end) 시스템인 CLASP (the Continual Learning Acceleration System Platform)를 제안합니다. CLASP의 하드웨어와 소프트웨어는 ML 기반 알고리즘에 제약 없이 통합될 수 있는 소프트웨어 가시적 어셈블리 수준 명령어를 통해 광범위한 지속 학습 알고리즘을 지원하도록 공동 설계되었습니다. CLASP는 우리가 제작한 BEOL (back-end-of-line) 호환 ECRAM 장치를 중심으로 설계되었으며, 이는 다른 차세대 메모리 장치를 사용하는 IMC 기반 학습의 과제를 극복할 수 있습니다. 우리는 MNIST를 사용하여 망각 없는 학습 (learning without forgetting) 및 경험 재생 (experience replay)을 수행할 때, ECRAM을 탑재한 CLASP가 GPU 내 학습 (in-GPU training)의 정확도에 근접하면서도 67배의 속도 향상과 132배의 에너지 절감을 달성함을 보여줍니다.