채용 과정에서의 알고리즘 단일 재배 (Algorithmic Monocultures)

많은 고용주가 동일한 소수의 알고리즘 공급업체(algorithm vendors)가 구축한 알고리즘으로 구직자를 심사합니다. 우리는 알고리즘 단일 재배 (algorithmic monoculture)가 동일한 개인 및 동일한 인종 그룹의 구성원들이 거절에 직면하게 만든다는 가설을 세웠습니다. 우리는 동일한 공급업체가 구축한 알고리즘에 의해 모든 지원서가 심사된, 400만 건의 지원서를 제출한 300만 명의 지원자로 구성된 새로운 데이터셋을 확보하여 분석했습니다. 우리는 지원자 결과에서 명확한 인종적 불균형을 발견했습니다. 미국 고용 차별 기준에 따르면, 아시아인 및 흑인 지원자가 제출한 모든 지원서 중 각각 14.74%와 25.87%가 아시아인 및 흑인 지원자에게 불리한 영향을 미치는 직무에 제출되었습니다. 또한 개인들은 균질한 결과(homogeneous outcomes)를 받습니다. 10개 직무에 지원한 전체 지원자의 4%가 모든 직무에서 거절을 권고받았으며, 이는 우연히 발생할 것으로 예상되는 비율보다 높습니다. 이러한 균질성을 더 잘 이해하기 위해, 우리는 채용 알고리즘의 결정론적 복제 가능성 (deterministic replicability)을 활용하여 지원자들이 모든 직무에 지원했을 경우 받게 되었을 결과를 생성했습니다. 우리는 지원자들이 자신의 지원서가 사람에 의해 검토되도록 보장하기 위해서는 매우 광범위하게 지원해야 한다는 점을 보여줍니다.