No-Free-Fairness: 학습 시스템에서의 근본적인 한계와 트레이드오프 (Trade-offs)

본 논문에서 우리는 학습 시스템(learning systems) 내 불평등의 세 가지 근본적인 원인을 식별하는, 'No-Free-Fairness 정리'라고 명명된 일련의 이론적 불가능성 결과(impossibility results)를 확립합니다. 첫째, 특정 하위 그룹(subgroup)에서 줄일 수 없는 비용(irreducible cost)이 발생하는 작업의 경우, 어떠한 결정 규칙(decision rule)이라도 전체적인 성능과 불평등(disparity) 사이에서 트레이드오프(trade-off)를 해야 하며, 이는 내재적인 공정성-비용 프런티어(fairness--cost frontier)를 형성함을 보여줍니다. 둘째, 완벽하게 공정하고 정확한 솔루션이 존재하는 이상적인 무잡음(noise-free) 환경에서도, 유한 샘플 학습(finite-sample learning)만으로도 무시할 수 없는 하위 그룹 불평등이 유도되어 분포 불변(distribution-free) 공정성 보장을 배제한다는 것을 증명합니다. 더 심각하게는, 엄격한 상대적 공정성(relative fairness)을 강제하는 것은 통계적 병목 현상(statistical bottleneck)을 생성합니다. 즉, 낮은 비용을 달성하기 위해 기하급수적으로 많은 샘플이 필요할 수 있습니다. 셋째, 모델 클래스(model class)의 한계가 독립적으로 불평등을 유도할 수 있음을 보여줍니다. 만약 모델이 특정 하위 그룹에 대한 정확한 솔루션을 표현할 수 없다면, 데이터나 학습 절차와 관계없이 공정성은 달성 불가능한 상태로 남습니다. 종합적으로, 이러한 결과들은 불공정함이 단순히 편향된 데이터나 최적화되지 않은 최적화(suboptimal optimization)의 결과가 아니라, 결정 문제(decision problems)의 본질적인 구조, 유한한 데이터의 제약, 그리고 모델의 표현력(expressivity)에서 비롯됨을 입증합니다. 우리의 프레임워크는 표준적인 지도 학습(supervised learning)을 넘어 폭넓게 적용될 수 있으며, 공정성을 달성하기 위해서는 명시적인 트레이드오프(trade-offs)가 필요하며 이를 핵심적인 설계 고려 사항으로 다루어야 함을 시사합니다.