심층 신경망 (Deep Neural Networks)은 다양한 작업에서 인상적인 성능을 달달성했지만, 분포 변화 (distributional shifts)에 대한 취약성은 실제 환경 배포에 있어 여전히 큰 장벽으로 남아 있습니다. 본 논문에서는 레이어 가중치 (layer weights)와 활성화 (activations) 사이의 상호작용을 연구함으로써 신경망의 분포 강건성 (distributional robustness)을 분석하고 정량화하는 프레임워크를 제안합니다. 우리는 이러한 상호작용을 베르누이 분포 (Bernoulli distributions)를 사용하여 모델링하며, 클래스 간의 분리 (separation between classes)를 강건성을 진단하기 위한 대리 지표 (diagnostic proxy)로 사용합니다. 우리는 CIFAR-10 및 ImageNet에서 학습된 모델을 통해 이 프레임워크의 유용성을 입증합니다. 우리는 우리가 제안한 지표가 학습 데이터를 암기한 (memorised) 네트워크와 그렇지 않은 네트워크를 구분할 수 있음을 보여줍니다. 또한 활성화 공간 (activation space)에서 유사한 실험을 수행하였으나, 동일한 특성이 유지되지 않음을 발견했습니다. 추가적으로, 다양한 분포 변화 (distribution shifts) 하에서 우리 지표의 동작을 조사하였으며, 이러한 변화가 경로 기반 진단 (path-based diagnostics) 하에서의 분리도를 감소시킨다는 것을 보여줍니다. 우리의 결과는 이 프레임워크가 표현 구조 (representation structure) 및 강건성에 대한 유용한 모델 수준의 진단 도구를 제공함을 시사합니다.