배치 정렬형 저정밀도 신경망 구조 탐색을 위한 우주 탑재 엣지 AI

엣지 가속기에서 엄격한 지연 시간과 정확도 제약을 충족하는 심층 네트워크 설계는 장치 수준의 지표를 기반으로 한 신경망 구조 탐색 (NAS) 을 포함한 하드웨어 인식 최적화에 점점 더 의존하고 있습니다. 그러나 대부분의 하드웨어 인식 NAS 파이프라인은 여전히 정밀도를 전제로 하여 구조를 최적화한 후, 탐색 이후에만 저정밀도 적응을 적용하여 최적화 시점의 동작과 저정밀도 하드웨어에서의 배치 실행 간 불일치를 초래할 수 있으며 이는 정확도를 현저히 저하시킬 수 있습니다. 우리는 이 한계를 해결하기 위해 배치 정렬형 저정밀도 학습을 하드웨어 인식 NAS 에 직접 통합합니다. 후보 구조들은 미세 조정 및 평가 단계에서 FP16 수치 제약을 노출받아, 검색 공간이나 진화 전략을 수정하지 않고도 구조적 효율성과 수치적 견고성을 공동으로 최적화할 수 있습니다. 제안된 프레임워크는 우주 탑재 해상 모니터링을 위한 선박 분할 작업에 대해 Intel Movidius Myriad X 비주얼 프로세싱 유닛 (VPU) 을 대상으로 평가했습니다. 배치 후 정밀도 변환은 장치 내 성능을 0.85 에서 0.78 mIoU 로 감소시키는 반면, 배치 정렬형 저정밀도 학습은 동일한 구조 (95,791 개 파라미터) 에 대해 장치 내에서 0.826 mIoU 의 성능을 달성하여 모델 복잡도를 증가시키지 않으면서 배치로 인한 정확도 격자의 약 3 분의 2 를 회복했습니다. 이러한 결과는 자원 제약이 있는 엣지 인공지능 (AI) 에서 최적화와 배치 간 견고성 및 정렬성을 크게 향상시키기 위해 하드웨어 인식 NAS 에 배치 일관된 수치 제약을 통합하는 것이 효과적임을 보여줍니다.