Qwen, FlashQLA 도입

요약

본 기술 기사는 TileLang 기반의 고성능 선형 주의력 커널인 FlashQLA를 소개합니다. 이 커널은 개인 장치용 에이전트 AI에 특화되어 있으며, 순방향 연산에서 2~3배, 역방향 연산에서 2배의 속도 향상을 제공합니다. 특히 자동 인트라-카드 CP와 하드웨어 친화적 재구성을 통해 SM 활용도를 높이고, 긴 컨텍스트 워크로드 및 엣지 장치 환경에서 뛰어난 성능을 보여줍니다.

핵심 포인트

• FlashQLA는 TileLang 기반의 고성능 선형 주의력 커널이다.
• 개인 장치용 에이전트 AI에 최적화되어 있으며, 순방향/역방향 연산 모두 속도 향상을 제공한다.
• 자동 인트라-카드 CP와 하드웨어 친화적 재구성을 통해 SM 활용도를 극대화했다.
• 긴 컨텍스트 및 엣지 장치 환경에서 높은 효율을 보이며, 역방향 전파 최적화를 통해 큰 성능 개선을 달성했다.