아날로그 메모리 내 컴퓨팅 가속기에서 재학습 없는 정확한 추론 구현

요약

아날로그 메모리 내 컴퓨팅(CIM) 가속기는 높은 추론 효율을 제공하지만, 변환기 및 장치 오류로 인해 사전 학습된 모델 사용에 어려움이 있었습니다. 본 연구는 저비용의 공유 보정 기법을 통해 재학습 없이도 정확한 추론을 구현하는 방법을 제시합니다. 이 방법은 Hadamard rotations를 적용하여 CNN, ViT, LLM 등 다양한 모델에서 성능을 크게 복원했습니다.

핵심 포인트

• CIM 가속기는 메모리 내 계산으로 높은 추론 효율성을 제공함.
• 아날로그 오류로 인해 사전 학습된 모델 사용이 어려웠던 문제를 해결함.
• 공유 보정(shared calibration)을 통해 재학습 없이도 정확한 추론 구현이 가능함을 입증함.
• ViT-B/16은 37.4%에서 82.9%로, Phi-4는 27.0%에서 72.2%로 성능이 복원됨.