Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
소수의 알고리즘 공급업체가 채용 시장을 독점하는 '알고리즘 단일 재배' 현상이 특정 인종 그룹에 불리한 결과를 초래함을 분석했습니다. 400만 건의 데이터를 통해 아시아인과 흑인 지원자가 겪는 인종적 불균형과 결과의 균질성을 입증했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기많은 고용주가 동일한 소수의 알고리즘 공급업체(algorithm vendors)가 구축한 알고리즘으로 구직자를 심사합니다. 우리는 알고리즘 단일 재배 (algorithmic monoculture)가 동일한 개인 및 동일한 인종 그룹의 구성원들이 거절에 직면하게 만든다는 가설을 세웠습니다. 우리는 동일한 공급업체가 구축한 알고리즘에 의해 모든 지원서가 심사된, 400만 건의 지원서를 제출한 300만 명의 지원자로 구성된 새로운 데이터셋을 확보하여 분석했습니다. 우리는 지원자 결과에서 명확한 인종적 불균형을 발견했습니다. 미국 고용 차별 기준에 따르면, 아시아인 및 흑인 지원자가 제출한 모든 지원서 중 각각 14.74%와 25.87%가 아시아인 및 흑인 지원자에게 불리한 영향을 미치는 직무에 제출되었습니다. 또한 개인들은 균질한 결과(homogeneous outcomes)를 받습니다. 10개 직무에 지원한 전체 지원자의 4%가 모든 직무에서 거절을 권고받았으며, 이는 우연히 발생할 것으로 예상되는 비율보다 높습니다. 이러한 균질성을 더 잘 이해하기 위해, 우리는 채용 알고리즘의 결정론적 복제 가능성 (deterministic replicability)을 활용하여 지원자들이 모든 직무에 지원했을 경우 받게 되었을 결과를 생성했습니다. 우리는 지원자들이 자신의 지원서가 사람에 의해 검토되도록 보장하기 위해서는 매우 광범위하게 지원해야 한다는 점을 보여줍니다.