악성코드와 탐지 모델의 적대적 공진화: 이계수준 최적화 관점

기계 학습 기반 악성코드 탐지기는 점차 적대적 예제에 취약해지고 있습니다. 원샷 적대적 훈련과 같은 전통적인 방어 기법은 강화 학습을 사용하여 탐지를 우회하는 적응형 공격자에게 자주 실패합니다. 본 논문에서는 방어자와 공격자 간의 전략적 상호작용을 명시적으로 적대적 공진화 과정으로 모델링한 이계수준 최적화 (bilevel optimization) 기반의 견고한 방어 프레임워크를 제안합니다. 우리는 MAB-malware 프레임워크를 사용하여 Mokes, Strab, DCRat라는 세 가지 다른 악성코드 계열에 대해 우리의 접근법을 평가했습니다. 실험 결과는 표준 분류기와 기본 적대적 재훈련이 여전히 취약하여 우회율 (evasion rates) 이 최대 90% 에 달하는 반면, 제안된 이계수준 최적화 접근법은 일관되게 거의 완전한 면역성을 달성하여 우회율을 0-1.89% 로 줄였음을 보여줍니다. 또한, 반복적 프레임워크는 공격자의 쿼리 복잡성을 현저히 증가시켜 성공적인 우회의 평균 비용을 최대 두 배수 (two orders of magnitude) 까지 높입니다. 이러한 발견들은 이계수준 최적화를 통해 공격과 방어의 반복 주기를 모델링하는 것은 진화하는 적대적 위협에 견딜 수 있는 탄력적인 악성코드 탐지 시스템을 개발하는 데 필수적임을 시사합니다.