악성코드와 탐지 모델의 적대적 공진화: 이계수준 최적화 관점
요약
본 논문은 기계 학습 기반 악성코드 탐지기가 적응형 공격자에게 취약한 문제를 다루며, 방어자와 공격자의 전략적 상호작용을 모델링하기 위해 이계수준 최적화(bilevel optimization) 기반의 견고한 방어 프레임워크를 제안합니다. MAB-malware 프레임워크로 세 가지 악성코드 계열에 대한 실험 결과, 기존 방법들이 높은 우회율을 보이는 반면, 제안된 이계수준 최적화 접근법은 거의 완전한 면역성을 달성하여 탐지 시스템의 탄력성을 크게 향상시켰습니다. 이는 적대적 위협에 대응하기 위해 공격과 방어의 반복 주기를 모델링하는 것이 필수적임을 시사합니다.
핵심 포인트
- 기존 악성코드 탐지기는 강화 학습을 사용하는 적응형 공격자에게 취약하며, 전통적인 방어 기법으로는 한계가 있습니다.
- 본 연구는 방어자와 공격자의 상호작용을 모델링하는 이계수준 최적화(bilevel optimization) 기반의 견고한 프레임워크를 제시합니다.
- 제안된 접근법은 Mokes, Strab, DCRat 등 다양한 악성코드 계열에서 우회율을 90% 수준에서 1.89% 이하로 극적으로 낮추는 높은 면역성을 입증했습니다.
- 이계수준 최적화 프레임워크를 사용함으로써 공격자가 성공적인 우회를 시도하는 평균 비용(쿼리 복잡성)이 크게 증가하여 방어 효과가 강화됩니다.
기계 학습 기반 악성코드 탐지기는 점차 적대적 예제에 취약해지고 있습니다. 원샷 적대적 훈련과 같은 전통적인 방어 기법은 강화 학습을 사용하여 탐지를 우회하는 적응형 공격자에게 자주 실패합니다. 본 논문에서는 방어자와 공격자 간의 전략적 상호작용을 명시적으로 적대적 공진화 과정으로 모델링한 이계수준 최적화 (bilevel optimization) 기반의 견고한 방어 프레임워크를 제안합니다. 우리는 MAB-malware 프레임워크를 사용하여 Mokes, Strab, DCRat라는 세 가지 다른 악성코드 계열에 대해 우리의 접근법을 평가했습니다. 실험 결과는 표준 분류기와 기본 적대적 재훈련이 여전히 취약하여 우회율 (evasion rates) 이 최대 90% 에 달하는 반면, 제안된 이계수준 최적화 접근법은 일관되게 거의 완전한 면역성을 달성하여 우회율을 0-1.89% 로 줄였음을 보여줍니다. 또한, 반복적 프레임워크는 공격자의 쿼리 복잡성을 현저히 증가시켜 성공적인 우회의 평균 비용을 최대 두 배수 (two orders of magnitude) 까지 높입니다. 이러한 발견들은 이계수준 최적화를 통해 공격과 방어의 반복 주기를 모델링하는 것은 진화하는 적대적 위협에 견딜 수 있는 탄력적인 악성코드 탐지 시스템을 개발하는 데 필수적임을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기