Tree Ensembles에 대한 민감도 정량화: 기호적 및 구성적 접근 방식

의사결정 트리 앙상블 (Decision tree ensembles, DTE)은 광범위한 AI 분류 작업에서 인기 있는 모델로, 여러 안전 필수 (safety critical) 영역에서 사용되고 있습니다. 따라서 이러한 모델의 속성을 검증하는 것은 지난 10년 동안 활발한 연구 주제였습니다. 이러한 검증 질문 중 하나는 민감도 (sensitivity) 문제로, 주어진 DTE에 대해 특징량 (features)의 부분 집합에 대한 작은 변화가 입력의 오분류 (misclassification)를 초래할 수 있는지를 묻습니다. 본 연구의 초점은 모델의 입력 공간을 이산화 (discretizing)하고 민감도에 취약한 영역을 열거함으로써, DTE에 맞춤화된 민감도의 정량적 개념을 구축하는 것입니다. 우리는 인증된 오차 (certified error) 및 신뢰 구간 (confidence bound) 내에서 이 계산을 효율적으로 수행할 수 있는 새로운 알고리즘 기술을 제안합니다. 우리의 접근 방식은 문제를 대수적 의사결정 다이어그램 (algebraic decision diagram, ADD)으로 인코딩하고, 이를 효율적으로 해결할 수 있는 하위 문제로 더 분할하여 계산을 구성적 (compositional)이고 확장 가능하게 (scalable) 만드는 것에 기반합니다. 우리는 트리 수와 깊이 측면에서 다양한 크기의 벤치마크를 통해 우리 기술의 성능을 평가하였으며, 동일한 문제 인코딩에 대한 모델 카운터 (model counters)의 성능과 비교하였습니다. 실험 결과, 우리의 도구인 XCount는 다른 접근 방식에 비해 상당한 속도 향상을 달성하였으며, 앙상블의 크기가 증가함에 따라 잘 확장될 수 있음을 보여줍니다.