ESL-former: FPGA 가속화 악성코드 탐지를 위한 이벤트 희소 선형 트랜스포머

요약

본 논문은 자원 제약적인 엣지 장치에서 악성코드 탐지를 위해 이벤트 희소 선형 트랜스포머 프레임워크를 제시합니다. 기존의 높은 계산 비용 문제를 해결하기 위해, 명시적 어텐션 행렬 대신 누적 키 값 상태를 활용하여 토큰 및 채널 중요도를 도출했습니다. 이 설계는 하드웨어 압축 유닛을 통해 희소성을 실제 가속으로 변환하여 저전력 FPGA 환경에 최적화되었습니다.

핵심 포인트

• FPGA 엣지 플랫폼 기반 악성코드 탐지 프레임워크 제시
• 명시적 어텐션 대신 선형 트랜스포머의 누적 키 값 상태 활용
• 기여도 인식 스코어링으로 중복 토큰 및 저기여 채널 제거
• 하드웨어 압축 유닛을 통해 희소성을 실제 가속으로 변환