SpecCloak: 엔지니어링 사양을 통한 유해 코드 생성 탐지

요약

본 연구는 LLM의 코드 생성 능력이 악용될 위험에 주목하여, 엔지니어링 사양(PseudoSpec)을 활용한 새로운 탐지 프레임워크 SpecCloak을 제안합니다. SpecCloak은 블랙박스 레드팀 공격으로 높은 성공률을 보였으며, 자연어 의도 재구성 기반의 방어 프로토타입 SpecReveal 역시 높은 탐지율을 달성했습니다.

핵심 포인트

• PseudoSpec 템플릿을 통해 엔지니어링 사양 프롬프팅이 악성 코드 생성 거부 과정을 현저히 낮춘다.
• 제안된 SpecCloak은 블랙박스 레드팀 공격에서 평균 28.91%의 높은 성공률을 기록했다.
• SpecReveal은 자연어 의도 재구성을 결합하여 별도의 프롬프트 탐지 평가에서 96.88%의 탐지율을 보였다.