Overmind: 신경-기호 통합 아키텍처로 AI 성능 혁신

요약

본 논문은 대규모 언어 모델(LLM)과 자율 시스템 등에서 중요성이 커지고 있는 신경-기호 AI (Neuro-Symbolic AI)의 하드웨어 구현 한계를 극복하기 위한 새로운 통합 아키텍처 'Overmind'를 제안합니다. Overmind는 비선형 활성화 함수에 Padé 근사(Padé approximations) 기법을 적용하고, 비용이 많이 드는 온칩 캐시를 우회하는 사전 예방적 메모리 바이패스(preemptive memory bypass) 기능을 도입했습니다. 이를 통해 기존 플랫폼의 높은 전력 소모와 낮은 효율성 문제를 해결

핵심 포인트

• Overmind는 신경-기호 AI 워크로드를 위해 설계된 통합 아키텍처입니다.
• 비선형 함수 근사에 Padé 근사 기법을 사용하여 정확도와 성능 간의 적응적 스케일링을 구현했습니다.
• 사전 예방적 메모리 바이패스(preemptive memory bypass)를 통해 온칩 캐시 오버헤드를 제거하여 효율성을 높였습니다.
• 혼합 신경-기호 워크로드에서 8.1 TOPS/W의 에너지 효율과 410 GOPS의 처리량을 달성했습니다.