TranSAGE: 대규모 트랜스포머 모델을 위한 공간 가속기 자동 생성

요약

대규모 트랜스포머 모델의 높은 계산 요구 사항을 해결하기 위해 컴파일러 기반 프레임워크인 TranSAGE를 제안합니다. 이 프레임워크는 다중 연산 파이프라이닝과 데이터 흐름 최적화를 통해 공간 가속기 구현을 자동 생성합니다. 테스트 결과, 상용 GPU/NPU 대비 월등한 처리량 및 에너지 효율성을 달성했습니다.

핵심 포인트

• TranSAGE는 대규모 트랜스포머를 위한 공간 가속기를 자동으로 생성하는 프레임워크입니다.
• 다중 연산 파이프라이닝과 데이터 흐름 최적화를 통합하여 성능을 극대화합니다.
• 상용 GPU/NPU 대비 최대 13배 높은 에너지 효율성을 달성했습니다.
• 설계 공간 탐색(DSE) 엔진과 RTL 구현 자동화 기능을 갖추었습니다.