제약 조건을 통한 조종 가능성: 코딩 에이전트의 확장 가능한 감독을 위한 기반

요약

코딩 에이전트의 보안 리스크와 확장성 문제를 해결하기 위해 접근 제어 및 코딩 컨벤션과 같은 제약 조건을 활용한 감독 방식을 제안합니다. 실험 결과, 제약 기반 시스템을 통해 백도어 탐지 재현율을 54.5%에서 90.9%까지 크게 향상시켰습니다.

핵심 포인트

• 코딩 에이전트의 인간 감독 병목 현상 해결 방안 제시
• 접근 제어 및 네트워크 정책 등 전통적 엔지니어링 방식의 에이전트 적용
• 제약 기반 substrate와 도구 활용 시 백도어 탐지율 대폭 상승
• 토큰 비용 측면에서 에이전트 스캐폴딩보다 경제적인 감독 가능