강건성(Robustness)은 규제화(Regularization)로 환원될 수 없다: 선형 케이스를 넘어선 적대적 학습(Adversarial

적대적 예제(Adversarial examples)에 대한 머신러닝 (ML) 모델의 취약성은 최근 주요한 관심사로 떠올랐습니다. 적대적 학습 (Adversarial training)은 이 문제에 대한 가장 효과적인 대응책 중 하나이지만, 높은 계산 비용은 실제 배포에 있어 여전히 장애물로 남아 있습니다. 최근 이러한 비용을 줄이기 위한 진전은, 선형 모델 (Linear models)의 경우 적대적 위험 (Adversarial risk)과 더 단순한 형태의 규제화된 위험 (Regularized risk) 사이의 형식적 등가성 (Formal equivalence)에 의존해 왔습니다. 이는 훨씬 더 효율적인 학습 절차를 가능하게 했으며, 자연스럽게 이러한 등가성이 선형 모델을 넘어 확장될 수 있는지에 대한 의문을 제기합니다. 본 연구에서 우리는 2층 네트워크 (Two-layer networks)에 대해서는 그러한 등가성이 존재할 수 없음을 형식적으로 보여줍니다. 우리의 증명은 적대적 위험을 약한 형태의 데이터 의존성 (Data dependence)만을 나타내는 단순한 규제화된 위험으로부터 근본적으로 분리하는 핵심 속성들로의 환원 (Reduction)을 통해 진행됩니다. 이러한 설정을 넘어, 우리는 Wide-ResNets에 대한 실증적 증거를 통해 동일한 유형의 불가능성이 더 깊고 표현력이 풍부한 아키텍처 (Architectures)에서도 지속됨을 보여줍니다.