고수준 합성(HLS)을 위한 구조 증강 LLM: Pragma 최적화
요약
본 논문은 고수준 합성(HLS) 설계의 품질 향상을 위해 구조 증강 LLM인 PRISM을 제안합니다. PRISM은 AST, CFG, DFG 세 가지 프로그램 그래프를 결합하여 코드 LLM에 컴파일러 수준의 구조적 추론 능력을 추가했습니다. 실험 결과, PRISM은 기존 모델 대비 커널 합성 및 설계 속도에서 뛰어난 성능을 보여주었습니다.
핵심 포인트
- PRISM: HLS 최적화를 위한 구조 증강 LLM 제시
- AST, CFG, DFG 결합으로 컴파일러 수준의 추론 능력 확보
- HLS-Eval에서 Llama3-8B 대비 높은 커널 합성 성능 입증
- 복잡한 코드 최적화 시 다른 기준 모델 능가하는 에이전트 흐름 구현
Pragma 삽입은 고수준 합성(HLS) 설계의 품질을 좌우합니다. 적절한 지시어(directives)를 선택하는 것은 루프 중첩, 데이터 의존성, 메모리 레이아웃에 대한 전문 지식과 추론 능력을 요구합니다. 기존 대규모 언어 모델(LLMs)은 코드 생성에서 유망함을 보이지만, 명시적인 프로그램 구조 인식 능력(program-structure awareness)이 부족하여 효과적인 pragma를 제안하는 데 한계가 있습니다. 우리는 이러한 격차를 해소하기 위해 PRISM이라는 새로운 구조 증강 LLM을 제시합니다. 이는 사전 학습된 코드 LLM에 컴파일러 수준의 구조적 추론 능력을 추가함으로써 구현됩니다. PRISM은 세 가지 계층적 프로그램 표현인 추상 구문 트리(Abstract Syntax Tree, AST), 제어 흐름 그래프(Control-Flow Graph, CFG), 그리고 데이터 흐름 그래프(Data-Flow Graph, DFG)를 결합하여 특정 트랜스포머 레이어에 주입하고, 원본 코드 토큰은 별도의 스트림으로 유지합니다. 주입 지점의 교차 주의 게이트(cross-attention gate)는 구조적 신호가 도움이 되지 않을 때 사전 학습된 표현으로 되돌아갈 수 있게 합니다. HLS-Eval에서의 제로샷 평가에서 PRISM은 Llama3-8B보다 3.5배 더 많은 커널을 합성하며 (26.9% 대 7.7%), 성공적으로 설계한 커널의 경우 GPT-5-mini보다 2.31배 빠른(기하 평균) 설계를 생성합니다. 에이전트 기반 흐름(agentic flow)에서는 PRISM 코딩 생성이 복잡한 코드 최적화 시 다른 기준 모델들을 능가하며, HLS-Eval 전체에서 평균 정규화 개선율을 26.4%까지 끌어올립니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기