불확실성 하 순차적 의사결정의 공정성 확보 방안

공정 인공지능 (Fair AI)은 알고리즘이 사회적 불평등을 자동화하거나 내재화하는 위험을 식별하고 완화하는 데 도움을 줍니다. 비록 알고리즘만으로는 구조적 불평등을 해결할 수 없지만, 편향성을 드러내고 상충 관계(trade-offs)를 명확히 하며 거버넌스를 가능하게 함으로써 사회기술적 의사결정 시스템을 지원합니다.

그러나 공정성 연구는 주로 지도 학습 (Supervised Learning) 분야에 집중되어 왔으며, 실제 많은 ML 응용 사례는 온라인적이고 순차적인(sequential) 특성을 가집니다. 즉, 이전의 결정이 미래의 결정에 영향을 미치며, 각 결정은 관측되지 않은 반사실적 상황(unobserved counterfactuals)과 유한한 샘플 크기 하에서 이루어지므로 불확실성(uncertainty)을 내포합니다.

특히 역사적 배제와 선택적인 피드백으로 인해 데이터가 충분히 관찰되지 못한 취약 계층(under-represented groups)에게는 이러한 불확실성이 심각한 결과를 초래할 수 있습니다. 예를 들어, 은행이 거절된 대출금이 실제로 상환되었을지 알 수 없거나, 소외된 인구 집단에 대한 데이터가 부족할 수 있습니다.

본 논문은 순차적 의사결정 과정에서 발생하는 불확실성의 분류 체계(taxonomy)를 제시합니다. 이 불확실성은 크게 모델 불확실성 (model uncertainty), 피드백 불확실성 (feedback uncertainty), 그리고 **예측 불확실성 (prediction uncertainty)**으로 나뉩니다. 이는 시스템 전반에 걸쳐 불확실성이 그룹별로 고르게 분포되어 있지 않은 상황을 평가할 수 있는 공통된 용어(shared vocabulary)를 제공합니다.

저자들은 모델 및 피드백 불확실성을 각각 **카운터팩추얼 논리 (counterfactual logic)**와 **강화학습 (Reinforcement Learning, RL)**의 관점에서 정식화했습니다. 이를 통해 정책이 관측되지 않은 공간(unobserved space)을 무시할 때 의사결정자(decision makers)에게 발생하는 실현되지 못한 이득/손실(unrealized gains/losses), 그리고 대상자(subjects)에게 발생하는 복합적 배제(compounding exclusion) 및 접근성 감소 등의 피해를 명확히 보여줍니다.

알고리즘적 예시와 실험을 통해, 불평등한 불확실성과 선택적인 피드백이 어떻게 격차를 만들어내는지 시뮬레이션했습니다. 중요한 점은, 불확실성을 고려하는 탐색(uncertainty-aware exploration) 기법을 적용함으로써 취약 계층의 결과 분산(outcome variance)을 줄이는 동시에 기관의 제도적 목표(예: 기대 효용, expected utility)를 보존할 수 있음을 입증했다는 것입니다. 이 프레임워크는 실무자들이 공정성 위험을 진단하고 감사하며 거버넌스하는 데 필수적인 도구를 제공합니다. 불확실성이 우연한 노이즈가 아니라 불공정성의 원인일 때, 이를 계량화하는 것이 효과적이고 공정한 의사결정을 위해 매우 중요합니다.