대규모 언어 모델(LLMs)의 안전 제약 디코딩을 위한 의미론적 속성 문법 유도체: AGDecode

요약

본 글은 LLM의 코드 생성 정확성을 높이기 위한 새로운 프레임워크인 AGDecode를 소개합니다. AGDecode는 의미론적 속성 문법을 활용하여 제약 디코딩 문제를 실현 가능성 문제로 변환합니다. 이를 통해 SMT/CHC 솔버 같은 외부 검증 오라클을 이용해 null-pointer 안전성과 같은 풍부한 의미론적 안전성을 보장할 수 있습니다.

핵심 포인트

• AGDecode는 최소 고정점 의미론 기반의 프로그래밍 가능한 프레임워크입니다.
• 속성 문법을 실현 가능성 문제로 변환하여 의미론적 제약을 적용합니다.
• SMT/CHC 솔버를 외부 검증 오라클로 활용하여 제약 해결 메커니즘과 언어 의미론을 분리합니다.
• 경로 민감형 안전 속성을 강제하며, 적절한 계산 오버헤드로 풍부한 보장을 제공합니다.