AI 엔진 기반 극한 엣지 과학 컴퓨팅 설계 가이드

요약

극한 엣지(Extreme-edge) 환경의 과학 애플리케이션은 실시간 센서 데이터 분석 및 의사결정을 위해 머신러닝 모델을 사용합니다. 이러한 환경은 엄격한 지연 시간(latency)과 처리량(throughput) 요구사항 때문에 작은 배치 크기(small batch sizes)와 모델 가중치 전체를 온칩(on-chip)에 유지해야 합니다. 기존의 공간 데이터 흐름(Spatial dataflow) 방식은 소규모 네트워크에는 적합하지만, 대형 모델로 확장될 때 자원 한계에 부딪힙니다. 본 논문은 AI 엔진을 활용하여 이러한 극한 엣지

핵심 포인트

• AI 엔진은 높은 컴퓨팅 밀도와 추가 온칩 메모리를 제공하며, 기존 FPGA SoC의 프로그래밍 가능한 로직 대비 강력한 대안이 될 수 있습니다.
• 본 연구는 지연 시간 조정 자원 등가성(Latency-Adjusted Resource Equivalence, LARE)이라는 새로운 지표를 제시하여 AI 엔진과 프로그래밍 가능 로직 간의 성능 우위를 객관적으로 판단할 수 있게 합니다.
• AI 엔진에 최적화된 공간 및 API 레벨 데이터 흐름 최적화를 제안하고, 이를 통해 기존 프로그래밍 로직으로는 구현이 어려웠던 대규모 신경망 모델 배포를 성공적으로 시연했습니다.