소형 위성 환경의 제약된 임베디드 플랫폼을 위한 양자화된 AI 추론 (Quantized AI Inference)

자원이 제한된 소형 위성 (small-satellite) 환경에서 AI 추론 (inference)은 크기, 전력 및 탑재 중량 (payload) 예산 내에서 엄격하게 작동해야 하며, 이는 온보드 연산 능력 (onboard compute capability)과 데이터 처리 능력을 제한하는 경향이 있습니다. 이러한 조건은 제한된 연산 및 메모리 자원 하에서의 양자화된 AI 추론 (quantized AI inference)에 대한 명확한 기준점 (baseline)을 수립해야 할 필요성을 부여합니다. 이 기준점을 구체화하기 위해, 대표적인 임베디드 비전 신경망 (embedded-vision neural-network) 워크로드를 참조 사례로 사용합니다. 이러한 동기를 바탕으로, 본 논문은 하한 운영 지점 (lower-bound operating point)으로서 매우 제약된 임베디드 플랫폼 (예: Cortex-M)에서 해당 AI 워크로드에 대한 양자화된 실행 (quantized execution)을 측정 기반으로 특성화 (characterization)하여 제시합니다. 이 체제에서 스케일링 (scaling)은 OS가 관리하는 투명한 멀티코어 스케줄링 (multicore scheduling)보다는 명시적인 오케스트레이션 (orchestration)에 의존하는 경향이 있으며, 타이밍 동작 (timing behavior)은 명령어 효율성 (instruction efficiency)과 메모리 이동 (memory movement)에 의해 결정됩니다. 결과적으로, 이 특성화는 오케스트레이션과 아키텍처 변형을 명시적인 설계 선택 사항으로 취급하여, 오케스트레이션된 구성 (예: 다중 코어 및/또는 장치) 전반에 걸친 실행 시간을 추정하기 위한 구조화된 참조를 제공합니다. 우리는 데이터 이동 관찰 결과와 함께 지연 시간 (latency) 지표를 보고하며, Cortex-M의 양자화된 산술 연산 (quantized arithmetic) 하에서의 ALU/SIMD 활용도 관점에서 이러한 측정값을 해석합니다. 마지막으로, 이 기준점이 보다 우주 환경에 전형적인 임베디드 프로세서 클래스 (예: LEON/NOEL-V)와 비교하여 결과를 배치하기 위한 참조 지점을 어떻게 제공하는지 개괄합니다.