왜 AI 피해는 한 번의 정체성으로는 해결될 수 없는가: 5,300 건의 사고 보고서가 교차성 (Intersectionality) 에 대해 드러낸 것

AI 위험 평가 (AI risk assessment) 는 AI 시스템으로 인해 발생하는 피해를 식별하는 주요 도구입니다. 여기에는 정체성 범주 (예: 계층과 피부색) 간의 상호작용에서 비롯되는 교차적 피해 (intersectional harms) 가 포함되며, 이러한 범주들을 개별적으로 고려할 때 발생하지 않거나 다르게 발생하는 피해가 이에 해당합니다. 그러나 기존 AI 위험 평가는 여전히 고립된 정체성 범주를 중심으로 구축되어 있으며, 교차점을 고려할 경우 거의 독점적으로 인종과 성별에 초점을 맞추고 있습니다. 문서화된 AI 사고에 대한 대규모 분석을 바탕으로 우리는 AI 피해가 한 번의 정체성 범주씩 발생하는 것이 아님을 보여줍니다. 대형 언어 모델 (LLM) 을 적용한 구조화된 평가 기준 (structured rubric) 을 사용하여, AI 사고 데이터베이스 (AI Incident Database) 의 1,200 건 문서화 사고 보고서 중 5,300 건을 분석했습니다. 이 보고서들을 통해 우리는 1,513 명의 피해자 및 해당 정체성 범주를 식별하여 98% 의 정확도를 달성했습니다. 개별 범주 수준에서는 연령과 정치적 정체성이 인종과 성별과 유사한 비율로 문서화된 AI 피해에 나타나는 것을 발견했습니다. 교차하는 범주 수준에서는 특정 교차점 (adolescent girls, lower-class people of color, upper-class political elites) 에서 피해가 최대 3 배까지 증폭되는 것으로 나타났습니다. 우리는 교차성 (intersectionality) 이 사회 집단 간에 피해가 어떻게 생성되고 분포되는지를 더 정확하게 포착하기 위해 AI 위험 평가의 핵심 구성 요소여야 한다고 주장합니다.