LLM 기반 Triton 커널 최적화를 위한 컴파일러 기반 계층적 진단

요약

LLM 기반의 Triton 커널 최적화를 위해 컴파일러 피드백과 IR 구조를 연결하는 계층적 진단 프레임워크를 제안합니다. Ascend NPU 환경에서 실험한 결과, 벤치마크 커널들에 대해 평균 4.35배의 속도 향상을 달성했습니다.

핵심 포인트

• 표면적 프로파일링을 넘어 IR 및 컴파일러 동작을 분석하는 교차 계층 진단 방식 도입
• 경량 패턴 분류부터 심층 컴파일러 분석까지 단계별로 진행되는 계층적 최적화 프레임워크
• Ascend NPU 기반 Triton 커널에서 기하 평균 4.35배의 성능 향상 입증
• 런타임 증상을 소스 수준의 재작성으로 연결하는 자동화된 최적화 프로세스