토큰 수준 LLM 가이드를 이용한 기호적 합성

요약

본 논문은 1차 논리 명세로부터의 프로그램 합성 문제를 해결하기 위해 고전적인 프로그램 합성 기법과 LLMs를 결합하는 방법을 제안합니다. 이 접근 방식은 LLM을 통계적 편향으로 활용하고, 고전 합성 기법으로 의미적으로 부정확한 접두사를 단축 처리하여 성능을 높입니다. 실험 결과, 소규모 오픈 가중치 모델(Qwen2.5)만으로는 해결하기 어려웠던 벤치마크를 성공적으로 해결함을 입증했습니다.

핵심 포인트

• LLM과 고전 합성 기법의 시너지 결합을 통해 프로그램 합성을 수행합니다.
• LLMs는 통계적 편향으로, 고전 기법은 의미적 정확성 확보에 사용됩니다.
• 소규모 오픈 가중치 LLM의 도달 범위를 확장하는 데 초점을 맞춥니다.
• Qwen2.5(32B) 모델을 사용하여 32개 중 30개의 벤치마크를 해결했습니다.