정확한 진단과 결함 있는 추론: LLM 기반 취약점 추론에 대한 구조화된 감사

대규모 언어 모델(LLMs)은 자동화된 소프트웨어 취약점 분석을 위해 점점 더 많이 배포되고 있습니다. 단순 이진 분류만으로는 충분하지 않으며, 실무자들은 버그를 분류하고 패치를 설계하기 위한 설명이 필요합니다. 표준 관행은 Chain-of-Thought (CoT) 프롬프팅에 의존하지만, 자유 형식 추론(free-form reasoning)은 모델이 그럴듯한 산문 뒤에 논리적 비약, 환각된 실행 단계, 내부 불일치성을 숨기도록 허용합니다. 저희의 수동 감사를 통해 약 60%의 정확한 취약점 진단이 조작되거나 검증할 수 없는 주장과 함께 제공된다는 것을 밝혀냈으며, 자유 형식 설명은 추론 오류가 LLM-as-a-judge 평가를 회피하도록 허용합니다. 저희는 LLM 취약점 추론을 감사하기 위한 자동화된 프레임워크인 Vulnerability Explanation Reasoning Auditor (VERA)를 제시합니다. VERA는 자유 형식 텍스트를 수용하는 대신, 추적 포인터, 메모리 작업 및 상태 전이를 기계가 읽을 수 있는 필드로 인코딩하는 Structured Reasoning Record (SRR) 출력을 모델에 요청합니다. 다단계 심사관은 결정론적 검사를 사용하여 각 SRR을 8가지 추론 실패 모드에 대해 감사하며, LLM 호출은 의미 해석을 위해 예약됩니다. 표준화된 SRR 스키마는 또한 인간의 주석 없이도 대규모로 심사관을 벤치마킹할 수 있도록 자동화된 변이 테스트(mutation testing)를 가능하게 합니다. 저희의 평가는 추론 결함이 부정확한 진단만큼이나 정확한 진단에서도 자주 발생하며, VERA는 자유 형식 LLM-as-judge가 체계적으로 놓치는 추론 오류 중 87%를 노출합니다.