재구성 가능한 컴퓨팅 챌린지: Versal AI Engine에서의 Jet Tagging을 위한 Transformer
요약
CERN LHC의 jet tagging을 위해 AMD Versal AI Engine에 최적화된 양자화된 Transformer 구현을 제안합니다. Python 모델 설명으로부터 Vitis 그래프 코드를 자동 생성하는 재사용 가능한 소프트웨어 프레임워크를 소개합니다.
핵심 포인트
- 저지연 및 자원 제한적 환경을 위한 정수 전용 Transformer 구현
- AMD Versal AI Engine 타일에 밀집 및 멀티 헤드 어텐션 레이어 매핑
- Python 모델로부터 Vitis 그래프 코드를 자동 생성하는 프레임워크 개발
- 오픈 소스 소프트웨어로 구현되어 향후 연구 토대 제공
Transformer 기반 모델들은 CERN LHC의 jet tagging에서 강력한 성능을 달성하지만, 이를 저지연(low-latency) 및 자원 제한적인 트리거 시스템(trigger systems)에 배포하는 것은 도전적인 과제입니다. 본 논문에서는 AMD Versal AI Engine (AIE) 상에서 jet tagging을 위한 양자화된(quantized), 정수 전용(integer-only) Transformer의 초기 구현을 제시하며, 밀집(dense) 레이어와 멀티 헤드 어텐션 (MHA) 레이어를 AIE 타일(tiles)에 매핑합니다. 주요 기여는 Transformer 레이어를 조합 가능한 AIE 빌딩 블록으로 표현하고, 상위 수준의 Python 모델 설명으로부터 그에 상응하는 Vitis 그래프 코드를 자동으로 생성하는 재사용 가능한 소프트웨어 프레임워크입니다. 이 프레임워크는 향후 연구를 위한 토대를 제공하며, https://github.com/KastnerRG/particle_transformer_aie 에 오픈 소스 소프트웨어로 공개되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기