신뢰할 수 있는 AI를 향하여: 연속적 데이터 요약(Continuous Data Summarization)을 위한 다중 타겟 적대적 공격 및

신뢰할 수 있는 AI (Trustworthy AI)는 강력한 다운스트림 예측 모델 (downstream predictive models)뿐만 아니라 신뢰할 수 있는 데이터 처리 파이프라인를 필요로 합니다. 업스트림 구성 요소로서, 데이터 요약 (data summarization)은 어떤 정보가 유지되어 이후의 학습 또는 결정 모듈로 전달될지를 결정합니다. 따라서 요약 과정에 대한 적대적 섭동 (adversarial perturbations)은 업스트림 방식으로 신뢰할 수 있는 AI를 저해할 수 있습니다. 즉, 선택된 요약을 변경하거나, 요약의 대표성 (representativeness)을 감소시키며, 나아가 후속 학습 작업의 유용성을 더욱 저하시킬 수 있습니다. 본 논문에서는 DR-서브모듈러 최적화 (DR-submodular optimization)를 통해 유사도 수준의 섭동 (similarity-level perturbations) 하에서 연속적 데이터 요약에 대한 적대적 공격을 연구합니다. 우리는 다중 해상도 이미지 요약 목적 함수 (multi-resolution image summarization objectives)의 한 클래스가 비음수 서브모듈러 집합 함수 (non-negative submodular set functions)의 다중 선형 확장 (multilinear extensions)으로 공식화될 수 있으며, $m$-약한 단조성 (m-weak monotonicity)을 갖는 DR-서브모듈러성 (DR-submodularity)을 만족함을 보여줍니다. 그런 다음, 우리는 다중 타겟 공격 생성을 하나의 허용 가능한 유사도 구조 섭동이 여러 타겟 요약 모델을 저하시키도록 최적화하는 min-max 문제로 공식화합니다. 이러한 섭동을 완화하기 위해, 우리는 혼합된 공격 유형에 대한 강건한 방어 (robust defense)를 정규화된 max-min 문제로 공식화합니다. 두 문제 모두에 대해, 우리는 이론적 보장이 있는 근사 알고리즘 (approximation algorithms)을 개발합니다. 실제 데이터 및 통제된 클러스터 벤치마크 (controlled clustered benchmarks)에 대한 실험 결과, 제안된 공격은 대표적인 저-중간 예산 (low-to-moderate budget) 영역에서 효과적이며 다운스트림 작업 성능 손실을 유발할 수 있음을 보여줍니다. 제안된 방어는 구조화된 환경에서 강건성-완화 트레이드오프 (robustness--mitigation trade-off)를 개선하는 동시에, 실제 데이터에 대한 강건한 보호의 파라미터 민감도 (parameter sensitivity)를 밝혀냅니다.