강건성(Robustness)과 정렬(Alignment)을 위한 전략적 분류(Strategic Classification)에서의 인과적

전략적 분류(Strategic Classification)에서 기관(예: 은행)은 분류 작업(예: 대출 상환)에서 효용을 높이기 위해 자신의 특징(features)을 변경하는 사용자들의 적응(adaptation)을 예상합니다. 핵심 과제는 사용자에 의해 유발되는 분포 변화(distribution shift)이므로, 우리는 최악의 분포 외(Out-of-Distribution, OOD) 위험을 제한할 수 있음이 입증된 인과 모델(causal models)로 눈을 돌려, 인과관계(causality)와 전략적 분류를 연결하는 몇 가지 새로운 결과를 확립합니다. 첫째, 노이즈(noise)가 특정 방식으로 제한될 때, 인과적 분류(causal classification)가 충분히 큰 적응 이후에도 최적의 분류 오차(classification error)로 이어진다는 것을 보여줍니다. 둘째, 이러한 가정이 성립하지 않을 때, 최적 분류기(optimal classifiers)의 OOD 교차 엔트로피 위험(cross-entropy risk)이 OOD 편향(bias) 항과 모든 관찰 가능한 특징(observable features)을 사용하지 않음으로써 발생하는 항으로 분해됨을 보여주며, 이를 통해 인과적 분류기(causal classifiers)가 언제 이점을 갖는지 이해할 수 있게 합니다. 마지막으로, 인과적 특징(causal features)의 사용이 기관과 사용자 간의 장기적 인센티브 정렬(alignment of long-term incentives)을 가능하게 할 수 있음을 보여주며, 이는 이러한 접근 방식의 사회적 비용을 강조했던 이전 연구들과 대조를 이룹니다. 우리는 합성 데이터(synthetic data)를 통해 이론을 경험적으로 검증하였으며, 우리의 결과가 실제 행동을 예측한다는 것을 확인했습니다.