입력값의 무작위 노이즈 섭동에 대한 신경망 (Neural Networks)의 강건성
요약
학습된 신경망의 입력값 노이즈 섭동에 대한 강건성을 측정하는 새로운 지표를 제안합니다. MSE와 정확도 사이의 관계를 분석하며, 블랙박스 방식으로 계산이 효율적인 강건성 상한 측정법을 제시합니다.
핵심 포인트
- 입력값 섭동에 대한 신경망의 강건성 상한 제시
- MSE와 네트워크 정확도 간의 상호작용 검토
- 블랙박스 기반의 효율적인 강건성 측정 방식 제안
- 데이터 세트 내/외 강건성 분석을 위한 강건성 곡선 도입
우리는 학습된 신경망 (Neural Network)의 입력값 섭동 (Perturbation)에 대한 강건성 (Robustness) 문제를 조사합니다. 구체적으로, 평균 제곱 오차 (Mean Squared Error, MSE)로 측정되는 네트워크의 정확도와 강건성 사이의 상호작용을 검토합니다. 이에 따라, 우리는 네트워크의 입력값에 대한 주어진 섭동에 대하여, 특정 입력 데이터 세트에 대한 네트워크의 평균 제곱 오차의 상한 (Upper Bound)을 높은 확률로 제시하는 강건성 측정 지표를 제안합니다. 우리가 제안하는 측정 방식은 신경망을 블랙박스 (Black Box)로 취급하여 계산이 간단하고 효율적입니다. 우리는 제안된 방법의 효능을 보여주는 여러 실제 데이터 세트에 대한 실험 결과를 제공합니다. 또한, 데이터 세트 내부 및 데이터 세트 간의 강건성을 추가로 분석할 수 있게 해주는 강건성 곡선 (Robustness Curves)의 개념을 도입합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기