공급망 의존성이 AI 채용 애플리케이션의 편향 측정 및 책임 귀속을 어떻게 복잡하게 만드는가

채용 분야에서 AI 시스템의 채택이 증가함에 따라 알고리즘 편향과 책임성에 대한 우려가 제기되었고, 이에 EU AI Act(유럽연합 인공지능법), NYC Local Law 144(뉴욕시 로컬 법 144호), 콜로라도주 AI Act(콜로라도주 인공지능법)를 포함한 규제적 대응이 이루어졌다. 기존 연구는 기술적이거나 규제적인 관점에서 편향을 검토해 왔으나, 두 관점은 모두 근본적인 과제를 간과하고 있다. 현대의 AI 채용 시스템은 데이터 벤더, 모델 개발자, 플랫폼 제공자, 그리고 도입 기관에 걸쳐 책임이 분산되는 복잡한 공급망 내에서 작동하기 때문이다. 본 논문은 이러한 의존성 사슬이 편향 평가와 책임 귀속을 어떻게 복잡하게 만드는지 조사한다. 문헌 검토와 규제 분석을 바탕으로 우리는 분산된 책임이 두 가지 주요 문제를 야기함을 보여준다. 첫째, 편향은 고립된 요소가 아닌 구성 요소 간의 상호작용에서 발생하지만, 독점적 구성으로 인해 통합 평가가 불가능하다. 이력서 파서(resume parser)는 독립적으로는 편향 없이 작동할 수 있으나, 특정 랭킹 알고리즘과 필터링 임계값과 통합될 때 차별에 기여할 수 있다. 둘째, 정보 비대칭성으로 인해 도입 기관은 벤더가 제공하는 알고리즘에 대한 기술적 가시성이 없음에도 불구하고 법적 책임을 지게 되며, 벤더는 구현을 통제하면서도 의미 있는 공개 요구 사항이 없다. 각 이해관계자는 자신이 준수하고 있다고 믿을지라도, 통합된 시스템은 편향된 결과를 생산할 수 있다. 구현 모호성에 대한 분석은 이러한 도전 과제를 실제 사례에서 드러낸다. 우리는 시스템 수준의 감사(system-level audits), 벤더 가이드라인, 지속적 모니터링 메커니즘, 그리고 의존성 사슬 전반에 걸친 문서화를 포함한 다층적 개입을 제안한다. 우리의 연구 결과는 효과적인 거버넌스를 위해서는 분산된 개발 환경에서 기술적, 조직적, 규제적 영역을 아우르는 조정된 행동이 필요하며, 이를 통해 의미 있는 책임성을 확립할 수 있음을 보여준다.