Workday, 채용 선별 도구의 AI 편향성 관련 캘리포니아 소송 직면

Daniel Wiessner 작성

6월 22일 (Reuters) - 월요일, 연방 판사는 Workday의 인기 있는 AI 기반 인적 자원 (HR) 소프트웨어가 다른 기업의 구직자들을 캘리포니아 법과 장애인 차별을 금지하는 연방 법률을 위반하는 방식으로 걸러냈다는 주장에 대해 Workday가 법적 책임을 져야 한다고 판결했습니다.

샌프란시스코의 미국 연방 지방 판사 Rita Lin은 캘리포니아에 기반을 둔 Workday 측의 주장, 즉 다른 주나 국가의 일자리에 지원하는 캘리포니아 외부의 사람들을 선별할 때는 주(state)의 차별 금지법이 적용되지 않는다는 주장을 기각했습니다.

2023년에 제기된 이 집단 소송 (class action)은 대규모 고용주들 사이에서 매우 흔해진 AI 선별 소프트웨어의 근간이 되는 알고리즘 의사결정 (algorithmic decision-making)을 광범위하게 겨냥한 최초의 사례이며, 향후 유사한 소송이 진행되는 방식에 영향을 미칠 수 있습니다.

Lin 판사는 2024년에 Workday의 사건 기각 시도를 처음으로 거부했으며, 월요일에는 소송의 최근 수정 사항들을 폐기하려는 회사의 요청을 대부분 거부했습니다. 그녀는 Workday가 캘리포니아 본사에서 불법적인 행위에 참여했다고 주장되므로, 주법에 따른 차별에 대해 책임을 질 수 있다고 말했습니다.

또한 판사는 Workday의 소프트웨어가 고용 기록의 공백과 같은 장애 및 질병의 "대리 지표 (proxy indicators)"를 기반으로 구직자를 걸러낼 수 있으며, 이것이 연방 장애인법 (Americans with Disabilities Act)을 위반한다는 주장에 대해서도 기각을 거부했습니다.

Lin 판사는 Workday의 소프트웨어가 아시아계 미국인 구직자를 차별했다는 주장에 대해서는 원고들이 소송에 이를 추가하기 위한 적절한 절차를 따르지 않았다고 말하며 기각했습니다. 원고들은 별도로 Workday가 흑인 구직자, 여성, 그리고 40세 이상의 사람들을 차별했다고 주장하고 있습니다.

대변인이 제공한 성명에서 Workday는 소송의 주장들이 허위이며, 회사의 AI 채용 도구는 "캘리포니아나 그 외 어느 곳에서도" 채용 결정을 내리지 않는다고 밝혔습니다.

"우리의 기술은 인종, 연령 또는 장애와 같은 보호 대상 특성이 아니라 직무 자격 요건만을 검토합니다. 우리는 우리의 도구가 보호 대상 집단에 해를 끼치지 않음을 확인하기 위해 책임감 있는 AI (Responsible AI) 프로그램의 일환으로 제품을 엄격하게 테스트합니다,"라고 회사는 밝혔습니다.

원고 측 변호인들은 논평 요청에 즉각 응답하지 않았습니다.

수많은 설문 조사에 따르면 미국 고용주의 80% 이상, 그리고 거의 모든 Fortune 500 기업이 채용 과정에서 Workday가 제작한 것과 같은 AI 도구를 활용하고 있는 것으로 나타났습니다. 정부 기관과 노동 권익 옹호론자들은 AI 도구가 기존의 편향성 (biases)을 반영하는 데이터를 사용하여 구축될 경우 구직자를 차별할 수 있다는 우려를 표명해 왔습니다.