SSR: 트랜스포머 가속을 위한 지연 시간-처리량 상충 관계를 고려한 공간 순차 하이브리드 아키텍처
요약
본 논문은 트랜스포머 모델 가속을 위해 지연 시간(Latency)과 처리량(Throughput) 간의 상충 관계를 고려한 새로운 공간 순차 하이브리드 아키텍처인 SSR을 제안합니다. 이 아키텍처는 FPGA 환경에서 효율적인 구현을 목표로 하며, 트랜스포머 가속 성능 향상에 기여할 것으로 기대됩니다.
핵심 포인트
- 트랜스포머 가속의 지연 시간-처리량 상충 관계 해결 시도
- 공간 순차 하이브리드 아키텍처(SSR) 제안 및 적용
- FPGA 환경에서의 효율적인 구현을 목표로 함
SSR: Spatial Sequential Hybrid Architecture for Latency Throughput Tradeoff in Transformer Acceleration (FPGA'24) Jinming Zhuang, Zhuoping Yang, Shixin Ji, Heng Huang, Alex K. Jones, Jingtong Hu, Yiyu Shi, Peipei Zhou
팀
주 연구원: Prof. Peipei Zhou, https://peipeizhou-eecs.github.io/
Ph.D. 학생: Jinming Zhuang (학생 리드), Zhuoping Yang, 그리고 Shixin Ji
교수 협력자: Heng Huang 교수 (Maryland), Alex Jones 교수 (Syracuse), Jingtong Hu 교수 (Pitt), 그리고 Yiyu Shi 교수 (Notre Dame)
🚀 SSR을 사용해 주셔서 감사합니다! ! !
여러분의 지원과 커지는 참여는 저희가 프로젝트를 지속적으로 개선하고 향상시키는 영감을 줍니다.
- 2025년 2월 26일 이후 총 조회수: <!--VIEWS-->1842<!--/VIEWS-->
- 2025년 2월 26일 이후 총 다운로드 수: <!--CLONES-->1499<!--/CLONES--> <img src="https://raw.githubusercontent.com/arc-research-lab/SSR/HEAD/plot/SSR_traffic_plot.png" width="600" />
ACM/IEEE 참고 문헌 형식
- Jinming Zhuang, Zhuoping Yang, Shixin Ji, Heng Huang, Alex K. Jones, Jingtong Hu, Yiyu Shi, 그리고 Peipei Zhou. 2024. SSR: Spatial Sequential Hybrid Architecture for Latency Throughput Tradeoff in Transformer Acceleration. In Proceedings of the 2024 ACM/SIGDA International Symposium on Field Programmable Gate Arrays (FPGA '24). Association for Computing Machinery, New York, NY, USA, 55–66. https://doi.org/10.1145/3626202.3637569
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub ML Hardware의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기