Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 논문은 자원 제약적인 엣지 환경에서 CNN 추론 시 발생하는 소프트 에러를 감지하는 새로운 기법인 carry-through checksum을 제안합니다. 이 방법은 컨볼루션 레이어에 전용 필터를 내장하여 체크섬을 계산하고, 이를 통해 단일 출력 검증만으로 엔드투엔드 오류 감지를 가능하게 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Convolutional Neural Networks (CNNs)는 안전 필수(safety-critical) 엣지 애플리케이션에 점점 더 많이 배포되고 있으며, 이러한 환경에서는 소프트 에러가 추론 출력값을 조용히 오염시켜 위험한 결정으로 이어질 수 있습니다. 그러한 애플리케이션은 일반적으로 자원 제약적인 임베디드 GPU에 의존하며, 표준 GPU 추론 파이프라인과 원활하게 통합되면서도 최소한의 컴퓨팅, 메모리 및 지연 시간 오버헤드를 추가하는 결함 감지 및 완화 기술을 필요로 합니다. 기존 알고리즘 기반의 결함 허용(fault tolerance) 기법들은 행렬 증강(matrix augmentation) 및 연산별 체크섬 검증에 의존하여 상당한 오버헤드를 부과하며, 이는 임베디드 GPU에서의 CNN 추론에는 실현 불가능합니다. 본 연구에서는 임베디드 GPU에서 CNN 추론의 소프트 에러를 감지하기 위한 근본적으로 새로운 방식인 carry-through checksum을 제안합니다. 이 방법은 컨볼루션 레이어에 전용 carry-through 필터를 내장하여, CNN 자체 연산으로부터 체크섬을 계산하고 이를 추론 전체에 걸쳐 전파함으로써 단일 출력 검증만으로 엔드투엔드(end-to-end) 오류 감지를 가능하게 합니다. 여러 CNN 아키텍처에 대한 실험 결과는 제안된 방법이 FP32의 경우 95.86%, FP16의 경우 86.56%에 달하는 중요 결함을 거의 추가적인 이미지당 오버헤드 없이 감지함을 보여줍니다. 감지된 결함은 재실행을 통해 완화되며, NVIDIA Jetson Orin NX GPU에서 전체 테스트 세트에 걸쳐 단지 2.27%의 실행 시간 오버헤드만 발생시킵니다.