Optimal Counterfactual Search in Tree Ensembles: A Study Across Modeling and

Counterfactual 설명에 대한 신뢰도는 권장되는 변경 사항이 실제로 최소인지 여부에 따라 결정됩니다. 불충분한 설명은 의사결정을 변경하기 위해 필요한 실제 변경 사항을 크게 초과할 수 있으며, heuristics 오류는 개인을 불균형하게 영향을 주어 일부 사용자에게 관련 있는 회피를 제공하면서 다른 사용자들에게 불필요하게 비용 높은 권장 사항을 할당할 수 있습니다. 따라서 우리는 plausibility 와 actionability 제약 조건 하에 tree ensembles 에 대한 최적의 counterfactual 설명을 계산하는 문제를 연구합니다. 이는 combinatorial 문제입니다: 고정된 모델에서 counterfactual search 는 distance objective 하에서 일관된 branching decisions 과 threshold-defined regions 을 선택하는 것으로 줄어듭니다. 우리는 이를 CPCF 를 통해 활용합니다. CPCF 는 numerical features 를 split thresholds 로 유도한 interval domains 으로 인코딩하고, discrete features 는 native finite-domain representations 을 유지하는 constraint programming (CP) formulation 입니다. 이는 continuous split-boundary search 없이 multiple distance objectives 를 지원하는 compact finite-domain formulation 을 제공합니다. 우리는 CPCF 를 mathematical programming paradigms 의 더 넓은 비교에 배치합니다: 원래 hard-voting random forests 에 설계된 maximum Boolean satisfiability (MaxSAT) formulation 을 soft-voting ensembles 에 확장하고, current state-of-the-art mixed-integer linear programming (MILP) 최적 접근법과 비교합니다. 10 개의 데이터셋과 3 가지 유형의 tree ensembles 에서 scalability, anytime performance, 그리고 distance metrics 의 sensitivity 를 분석합니다. 우리는 CP 가 전체적으로 가장 좋은 성능을 달성함을 관찰합니다. 더 중요하게는, 우리의 결과는 각 paradigm 의 특정 강점이 가장 적합한 regime 를 식별합니다: CP 는 전체적으로 가장 versatile 입니다, MaxSAT 은 hard-voting ensembles 을 특히 잘 처리하며, MILP 은 moderate number of split levels 을 가진 amortized inference settings 에서 여전히 경쟁력 있습니다.