우리는 적대적 모델 트레이너가 대규모의 깊은 피드포워드(feedforward) 신경망 클래스에 백도어를 심을 수 있음을 보여줍니다. 이 백도어는 화이트박스(white-box) 설정에서 통계적으로 탐지 불가능합니다. 즉, 백도어가 삽입된 모델과 정직하게 훈련된 모델은 모델의 전체 설명(예: 모든 가중치)이 주어졌음에도 불구하고 총 변동 거리(total variation distance)가 가깝습니다. 이 백도어는 모든 입력에 대해 불변성 기반 적대적 예제에 대한 접근을 제공하며, 멀리 떨어진 입력을 비정상적으로 가까운 출력으로 매핑합니다. 그러나 백도어가 없을 경우, 다항 시간 내에 그러한 어떠한 적대적 예제를 생성하는 것은 증명적으로 불가능합니다 (표준 암호학적 가정 하에서). 우리의 이론적 및 초기 경험적 발견은 모델 트레이너와 모델 사용자 사이에 근본적인 힘의 비대칭성을 입증합니다.