Auto-ART: AI 신뢰성 검증을 위한 구조화된 문헌 분석 및 자동 적대적 강건성 테스트 프레임워크

요약

본 논문은 신뢰할 수 있는 ML 배포의 핵심인 '적대적 강건성(Adversarial Robustness)' 평가 분야가 파편화된 프로토콜과 미탐지 그라디언트 마스킹 문제에 직면해 있음을 지적합니다. 이를 해결하기 위해, 연구진은 두 가지 주요 기여를 제시했습니다. 첫째, 2020년부터 2026년까지의 9개 동료 검토 코퍼스를 7가지 프로토콜로 분석하여 해당 분야의 합의점과 미해결 과제를 구조적으로 종합한 최초의 연구를 수행했습니다. 둘째, 이러한 격차를 실제로 구현하는 오픈소스 프레임워크인 Auto-ART를 개발했습니다. Auto-

핵심 포인트

• Auto-ART는 50가지 이상의 공격 기법과 28개의 방어 모듈을 포함하며, 적대적 강건성 평가의 표준화된 환경을 제공합니다.
• 프레임워크 내 '강건성 진단 지수(Robustness Diagnostic Index, RDI)'를 통해 플래그가 지정된 사례 중 92%에서 그라디언트 마스킹을 식별할 수 있음을 입증했습니다.
• Auto-ART는 L1/L2/Linf 등 다중 노름(multi-norm) 평가를 지원하며, NIST AI RMF, OWASP LLM Top 10, EU AI Act와 같은 규제 프레임워크에 대한 준수 매핑을 제공합니다.
• 실험 결과, 최신 모델들의 평균 강건성과 최악의 경우 강건성 사이에 최대 23.5%p의 격차가 존재함을 보여주어 심각한 취약점을 경고했습니다.