Stanford 연구진의 증명: 당신은 10개의 기업에 거절당하는 것이 아니라, 하나의 알고리즘에 10번 거절당하고 있는 것이다.

Stanford 연구진은 당신이 10개의 기업으로부터 거절당하는 것이 아니라는 사실을 증명했습니다. 당신은 하나의 알고리즘에 의해 10번 거절당하고 있는 것입니다.

당신의 점수는 330일 동안 저장됩니다. 동일한 벤더(Vendor)를 사용하는 모든 기업은 동일한 점수를 보게 됩니다. 그들은 이를 '알고리즘적 블랙볼 (algorithmic blackball)'이라고 부릅니다.

Stanford HAI, Chapman University, 그리고 Northeastern University의 연구진은 지금까지 수행된 AI 채용 알고리즘에 대한 가장 큰 규모의 감사(Audit) 결과를 발표했습니다.

이 논문의 제목은 "채용에서의 알고리즘적 단일 문화 (Algorithmic Monocultures in Hiring)"입니다. 2026년 5월 26일 FAccT에서 발표되었습니다. 데이터는 주요 Fortune 100 기업들이 사용하는 AI 채용 플랫폼인 Pymetrics로부터 확보되었습니다.

연구 결과는 다음과 같습니다.

당신이 Pymetrics를 사용하는 기업에 지원하면, 일련의 평가 게임을 수행하게 됩니다. 당신의 점수는 최대 330일 동안 저장됩니다. 만약 다른 기업도 Pymetrics를 사용한다면, 당신의 지원서는 저장된 동일한 점수를 사용하여 평가됩니다. 당신은 두 번의 별도 평가를 받는 것이 아닙니다. 동일한 점수를 두 번 받게 되는 것입니다.

만약 알고리즘이 당신을 한 번 거절한다면, 그것은 어디에서든 당신을 거절한다는 의미입니다.

연구진은 이를 "알고리즘적 블랙볼 (algorithmic blackball)"이라고 부릅니다. 하나의 나쁜 점수가 동일한 벤더를 공유하는 모든 기업으로부터 당신을 차단합니다. 당신은 왜 그런 일이 일어났는지 결코 알 수 없습니다. 두 번째 기회도 주어지지 않습니다. 그저 연락이 끊길 뿐입니다.

연구진은 실제 지원자 데이터를 사용하여 대규모 시뮬레이션을 실행했습니다. 결과는 다음과 같습니다: 한 기업에서는 성공했을 지원자들이 다른 기업에 맞춰 조정된 알고리즘에 의해 걸러지면서, 40,000건 이상의 채용 기회가 상실되었습니다.

그 후 연구진은 누가 가장 큰 타격을 입는지 측정했습니다.

흑인 지원자의 25.87%가 알고리즘적으로 차별적인 채용 프로세스로 유도되었습니다. 아시아인 지원자의 경우 14.74%였습니다. 이는 가설적인 추정치가 아닙니다. 지구상에서 가장 큰 고용주들이 사용하는, 실제 현장에 배치된 채용 시스템에서 측정된 비율입니다.

동일한 알고리즘이 여러 기업에 적용되어, 모든 기업에서 동일한 인종적 격차를 만들어내고 있습니다.

이 문제는 이미 법정으로 넘어갔습니다. Mobley v. Workday 사건은 AI 채용 도구가 고령자, 흑인, 그리고 장애인 지원자를 체계적으로 차별한다고 주장하는 연방 집단 소송 (class-action lawsuit)입니다. 해당 사건은 현재 진행 중입니다.

유럽의 경우, EU AI Act는 채용 알고리즘을 기본적으로 고위험 AI 시스템 (high-risk AI systems)으로 분류합니다. 준수 요구 사항은 2026년 8월 2일에 발효됩니다. 불과 몇 주 남지 않았습니다.

미국에는 이와 대등한 연방 법률이 없습니다.

연구진은 네 가지 권고 사항을 제시합니다. 직무 수준에서 부정적 영향 (adverse impact)을 측정할 것. 기업 간 감시 (cross-employer surveillance)를 강화할 것. 알고리즘 집중 (algorithmic concentration)으로 인한 리스크를 모니터링할 것. 독립적인 연구자들이 채용 데이터에 접근할 수 있는 법적 경로를 마련할 것.

마지막 권고 사항에는 암묵적인 경고가 담겨 있습니다. 이 연구는 Pymetrics가 자발적으로 데이터를 공유했기 때문에 가능했습니다. 대부분의 벤더 (vendors)들은 자신들의 알고리즘이 불투명한 상태로 유지되기를 선호할 것입니다.

다음에 당신이 직장에 지원하고 아무런 소식을 듣지 못한다면, 그 거절은 사람이 한 것이 아닐 수도 있습니다. 그것은 당신이 이미 잊어버린 회사의, 당신이 방금 지원한 직무와는 아무런 관련도 없는 역할에 대해, 330일 전에 받은 점수로부터 비롯된 것일지도 모릅니다.