AI 기반 시스템을 위한 침투 테스트 재고찰: 자원 손상에서 행동 목표 위반으로

요약

본 논문은 기존의 인프라 손상 중심 침투 테스트 패러다임을 넘어, AI 기반 시스템에 특화된 목표 지향적 행동 평가로 침투 테스트를 재정의합니다. 공격자가 프롬프트나 데이터를 조작하여 시스템 동작을 변경하는 'AI 기반 침투' 개념을 제시하며, 이를 위한 새로운 테스트 워크플로우와 기술적 프레임워크를 제안합니다.

핵심 포인트

• 침투 테스트가 인프라 손상에서 행동 목표 위반으로 변화해야 함.
• 공격자는 프롬프트 주입, 데이터 오염 등 다양한 경로로 시스템 동작을 변경할 수 있음.
• 새로운 워크플로우는 운영 목표 식별 및 적대적 영향 분석에 중점을 둠.
• AI 기반 보안 운영 센터(SOC) 예시를 통해 행동적 침투의 중요성을 강조함.