AutoPass: 컴파일러 성능 튜닝을 위한 증거 기반 LLM 에이전트

대규모 언어 모델 (LLMs)은 코드 컴파일 작업에서 가능성을 보여주고 있지만, 복잡한 미세 구조적 (microarchitectural) 효과와 노이즈가 많은 런타임 측정값으로 인해 이를 런타임 성능 튜닝에 적용하는 것은 어렵습니다. 우리는 컴파일러 및 런타임 증거를 사용하여 LLM이 생성한 최적화 결정을 안내하는 컴파일러 성능 튜닝을 위한 멀티 에이전트 프레임워크인 AutoPass를 제시합니다. 이전의 오토튜닝 (auto-tuning) 방식처럼 컴파일러를 블랙박스 (black box)로 취급하는 대신, AutoPass는 LLM에 컴파일러를 개방하여 컴파일러 내부의 최적화 상태를 쿼리하고 중간 표현 (intermediate representation)을 분석하여 컴파일러 옵션을 조율할 수 있도록 합니다. 탐색 과정은 측정된 런타임 피드백을 사용하여 최적화 구성을 반복적으로 개선함으로써 성능 저하를 진단하고 지연 시간 (latency)을 개선하는 수정을 안내합니다. AutoPass는 추론 전용 (inference-only) 및 훈련이 필요 없는 (training-free) 설정에서 작동하며, 오프라인 훈련이나 작업별 미세 조정 (fine-tuning)을 요구하지 않으므로 새로운 벤치마크와 플랫폼에 즉시 적용할 수 있습니다. 우리는 LLVM 컴파일러에 AutoPass를 구현하였으며, 서버급 x86-64 및 임베디드 ARM64 시스템에서 이를 평가했습니다. AutoPass는 전문가가 튜닝한 휴리스틱 (heuristics) 및 전통적인 오토튜닝 방법을 능가하며, x86-64와 ARM64에서 LLVM -O3 대비 각각 1.043배 및 1.117배의 기하 평균 속도 향상을 달성했습니다.