SpecGuard: 에이전트가 속임수를 쓰기 전에 태스크의 결함을 증명하기

요약

SpecGuard는 자율 코딩 에이전트가 직면할 수 있는 태스크 의도와 테스트 간의 충돌을 형식적으로 감지하고 인증하는 시스템입니다. 이 도구는 태스크 설명과 코드베이스를 기반으로 의도를 Lean 4 사양으로 자동 형식화하며, 이를 통해 구현이 두 형식화를 모두 만족시키는지 기계 검증합니다. SpecGuard는 SWE-bench 테스트에서 높은 충돌 감지율을 보여주었으며, 에이전트가 행동하기 전에 태스크 수준의 안전 점검 기능을 제공하여 보상 해킹 같은 위험을 식별할 수 있습니다.

핵심 포인트

• 자율 코딩 에이전트의 오지정(misspecifications)으로 인한 위험 해결에 초점.
• SpecGuard는 의도와 테스트를 Lean 4 사양으로 자동 형식화하여 충돌 감지.
• 기계 검증된 인증서를 통해 구현 가능 여부를 형식적으로 증명함.
• SWE-bench에서 높은 충돌 감지율(최대 72.8%)과 낮은 누락률을 입증.