신경망의 예측을 설명하는 것은 신뢰할 수 있는 AI (Trustworthy AI) 분야의 핵심 과제입니다. 특징 기여도 (Feature Attribution) 또는 최소 충분 집합 (Minimal Sufficient Sets)에 기반한 기존의 설명 방법들은 일반적으로 입력 특징들을 독립적인 것으로 취급하며, 이는 입력이 구조적 의존성 (Structured Dependencies)을 보일 때 오해의 소지가 있는 설명을 생성할 수 있습니다. 우리는 이를 해결하기 위해 설명을 Halpern-Pearl (HP) 실제 원인 (Actual Causes)으로 공식화하고, Boolean 구조적 인과 모델 (Boolean Structural Causal Models, SCMs)을 사용하여 입력 의존성을 모델링합니다. 우리는 경계 전파 (Bound Propagation) 및 분기 한정법 (Branch-and-Bound) 기술을 적용하여 HP 원인을 계산하며, 동시에 완전성 (Completeness)과 최소성 (Minimality)에 대한 공식적인 보장을 제공합니다. 실험 결과, 우리는 확장성 측면에서 무차별 대입 (Brute-force) 및 ILP (Integer Linear Programming) 베이스라인을 크게 능가하였으며, 그래프 크기가 커짐에 따라 휴리스틱 탐색 (Heuristic Search)보다 우수한 성능을 보였습니다. 우리는 최대 28개의 노드를 가진 SCM에서, 인스턴스당 180초의 예산 내에 최대 $2.3\times10^{13}$개의 후보 (원인, 우연성) 쌍을 가진 탐색 공간에서도 모든 최소 실제 원인을 계산해냈습니다. 사례 연구를 통해, 입력 의존성을 무시할 경우 보고되는 원인의 수가 부풀려지며, 이 중 14.9%가 우리의 SCM 하에서 가짜 (Spurious) 원인임을 추가로 보여줍니다.