에이전트 기반 모델 검증 (Agentic Model Checking)

요약

본 글은 LLM이 생성한 시스템 코드를 검증하는 어려움을 해결하기 위해 '에이전트 기반 모델 검증(Agentic Model Checking)' 패러다임을 제안합니다. 이 접근 방식은 에이전트가 의미론적 판단을 담당하고, 유계 모델 검증(BMC) 백엔드가 건전성 관련 결정을 수행하도록 분리합니다. 이를 통해 명세 추론, 합성적 검증, 그리고 실제적인 반례 분석까지 포함하는 강력한 코드 검증 프레임워크를 구축했습니다.

핵심 포인트

• 에이전트 기반 모델 검증(Agentic Model Checking)은 LLM 생성 코드를 검증하기 위한 새로운 패러다임입니다.
• 에이전트는 명세 추론 및 개선 제안 등 의미론적 판단을, BMC는 건전성 관련 결정을 담당하여 역할을 분리합니다.
• 검증 과정은 합성적(Compositional)으로 설계되어 각 함수가 독립적으로 검증되면서도 호출자에게 결과를 자동으로 전파합니다.
• 반례 분석은 단순한 버그 보고를 넘어 도달 가능성, 동적 재현 등을 포함하는 정교한 파이프라인을 거칩니다.
• 제안된 BMC-Agent는 C와 Rust로 작성된 LLM 생성 커널 및 컴파일러 코드에 적용되어 실제 결함 발견과 기능적 등가성을 입증했습니다.