그래프 슈퍼최적화는 얼마나 잘 전이되는가? 텐서-그래프 슈퍼최적화기를 Triton 기반 NPU에 적용하기
요약
본 기사는 AI 가속기 전반의 성능 이식성 문제를 다루며, 그래프 수준 슈퍼최적화기를 Triton 기반 스택으로 Huawei Ascend 910B3에 적용했습니다. 트랜스포머 워크로드에서 최적화가 성공적으로 전이되어 최대 87.0%의 성능 향상을 보였습니다. 다만, 성능은 텐서 형태와 구조에 크게 의존하며, 이식 가능한 컴파일러 내부에 대상별 메커니즘 도입이 필요함을 강조합니다.
핵심 포인트
- 그래프 수준 최적화는 아키텍처 전반으로 성공적으로 전이 가능함.
- 융합된 워크로드에서 기존 대비 최대 87.0%의 성능 향상을 입증함.
- 성능은 텐서 형태와 워크로드 구조에 매우 의존적이어서 주의가 필요함.
- 재사용 가능한 컴파일러 인프라 내부에 대상별 메커니즘이 요구됨.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.PL (Programming Languages)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기