알고리즘 채용에서의 AI 자기 선호: 경험적 증거와 통찰

제목: 알고리즘 채용에서의 AI 자기 선호: 경험적 증거와 통찰

초록: 인공지능 (AI) 도구가 널리 채택됨에 따라, 대용량 언어 모델 (LLM) 은 채용부터 콘텐츠 관리까지 의사결정 과정의 양쪽에서 점차 중요한 역할을 수행하고 있습니다. 이러한 이중적인 채택은 다음과 같은 핵심적인 질문을 제기합니다: LLM 이 자신의 출력과 유사한 콘텐츠를 체계적으로 선호하는가? 컴퓨터 과학 분야의 기존 연구는 자기 선호 편향 (self-preference bias) -- 즉, LLM 이 자신이 생성한 콘텐츠를 선호하는 경향 -- 을 규명했지만, 이에 대한 실제 세계적 영향은 경험적으로 평가되지 않았습니다. 우리는 구직자들이 종종 이력서를 다듬기 위해 LLM 에 의존하는 반면, 고용주들은 동일한 이력서를 선별하기 위해 이를 활용하는 채용 상황을 중점적으로 살펴보았습니다. 대규모 통제된 이력서 대응 실험을 통해, 우리는 콘텐츠 품질이 통제되어도 LLM 이 인간이 작성한 이력서나 대체 모델에서 생성된 이력서보다 자신이 생성한 이력서를 일관되게 선호한다는 사실을 발견했습니다. 인간이 작성한 이력서에 대한 편향은 특히 크며, 주요 상용 및 오픈소스 모델 간에 자기 선호 편향이 67% 에서 82% 로 나타났습니다. 노동 시장 영향을 평가하기 위해 24 가지 직종에 걸친 현실적인 채용 파이프라인을 시뮬레이션했습니다. 이러한 시뮬레이션 결과, 평가자와 동일한 LLM 을 사용하는 지원자는 인간이 작성한 이력서를 제출하는 자격이 동등한 지원자에 비해 23% 에서 60% 더 높은几率으로 최종 후보 명단에 오르는 것으로 나타났으며, 영업 및 회계와 같은 비즈니스 관련 분야에서 가장 큰 불이익이 관찰되었습니다. 우리는 또한 LLM 의 자기 인식 능력을 표적으로 하는 간단한 개입을 통해 이 편향을 50% 이상 줄일 수 있음을 추가로 증명했습니다. 이러한 발견들은 AI 지원 의사결정에서 새롭게 부상했으나 이전에는 간과되었던 위험을 강조하며, 인구통계학적 불평등뿐만 아니라 AI-AI 상호작용 내의 편향도 다루는 확장된 AI 공정성 프레임워크를 요구합니다.