대규모 언어 모델(LLM)이 컴파일러가 놓치는 의미론적 최적화 기회를 복구할 수 있는가?
요약
LLM이 컴파일러가 놓치는 의미론적 최적화 기회를 복구할 수 있는지 연구하기 위해 새로운 벤치마크 SeGaBench를 제안합니다. 실험 결과, 강력한 LLM은 높은 정확도로 성능 향상을 이끌어내며 컴파일러 분석을 보완하는 추측적 의미론 제안자로서의 가능성을 보여주었습니다.
핵심 포인트
- 컴파일러의 의미론적 한계를 극복하기 위한 LLM 활용 연구
- 실행 가능한 벤치마크 SeGaBench 소개
- 최상위 모델이 93.3%의 사례에서 성능 향상 달성
- LLM을 컴파일러 분석을 보완하는 제안자로 활용 가능
최적화 컴파일러(Optimizing compilers)는 분석된 프로그램 표현(program representation)에 허용되는 의미론(semantics)이 부재할 때 수익성 있는 변환(transformations)을 놓칩니다. 우리는 대규모 언어 모델(LLMs)이 이질적인 C/C++ 컨텍스트로부터 그러한 의미론을 복구하고, 이를 검증된 계약 보존(contract-preserving) 산출물로 구현할 수 있는지 질문합니다. 우리는 저수준 가정(low-level assumptions), 데이터 구조 불변량(data-structure invariants), 그리고 고수준 의미론적 리프팅(high-level semantic lifting)을 아우르는 100개의 합성 사례와 20개의 소스 기반 사례를 포함하는 실행 가능한 벤치마크인 SeGaBench를 소개합니다. 각 사례에는 숨겨진 허용 의미론(enabling semantics), 오라클 산출물(oracle artifact), 정확성 및 의미론적 검증기(validators), 그리고 재현 가능한 성능 프로토콜이 포함됩니다. 우리는 사례당 5개의 독립적인 응답을 사용하여 5개의 LLM을 평가합니다. 가장 강력한 모델은 응답의 94.8%에서 정확한 산출물을 생성하고, 83.3%에서 최소 1.05배의 속도 향상을 달성하며, 사례의 93.3%에서 성능 성공을 얻었습니다. 그럼에도 불구하고, 정확한 산출물은 종종 오라클 격차(oracle gap)의 일부만을 메웁니다. 이러한 결과는 LLM의 산출물이 검증되고 평가된다는 전제하에, LLM이 추측적 의미론 제안자(speculative semantic proposers)로서 컴파일러 분석을 보완할 수 있음을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.PL (Programming Languages)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기