왜 AI 피해는 한 번의 정체성으로는 해결될 수 없는가: 5,300 건의 사고 보고서가 교차성 (Intersectionality) 에 대해 드러낸 것
요약
본 기사는 기존 AI 위험 평가 방법론이 개별 정체성 범주를 중심으로 구축되어 있어, 실제 발생하는 교차적 피해(intersectional harms)를 제대로 포착하지 못하고 있음을 지적한다. 5,300건의 AI 사고 보고서를 분석한 결과, AI로 인한 피해는 단일 정체성 범주에서 발생하기보다 여러 정체성 범주가 교차하는 지점에서 훨씬 더 심각하게 증폭되는 것으로 나타났다. 따라서 향후 AI 위험 평가는 인종과 성별 같은 개별 범주를 넘어, 다양한 정체성 간의 상호작용(교차성)을 핵심 구성 요소로 포함해야 한다고 주장한다.
핵심 포인트
- AI 피해는 단일한 정체성 범주가 아닌 여러 정체성 범주의 교차점에서 발생하고 증폭된다.
- 기존 AI 위험 평가는 개별 정체성 범주에 초점을 맞추어, 실제 발생하는 복합적이고 심각한 피해를 놓치고 있다.
- 대규모 데이터 분석 결과, 특정 교차점(예: 청소년 여성, 저소득층 유색인종)에서 피해가 최대 3배까지 증폭되는 것이 확인되었다.
- AI 위험 평가의 정확성을 높이기 위해서는 '교차성(Intersectionality)' 개념을 핵심 구성 요소로 통합해야 한다.
AI 위험 평가 (AI risk assessment) 는 AI 시스템으로 인해 발생하는 피해를 식별하는 주요 도구입니다. 여기에는 정체성 범주 (예: 계층과 피부색) 간의 상호작용에서 비롯되는 교차적 피해 (intersectional harms) 가 포함되며, 이러한 범주들을 개별적으로 고려할 때 발생하지 않거나 다르게 발생하는 피해가 이에 해당합니다. 그러나 기존 AI 위험 평가는 여전히 고립된 정체성 범주를 중심으로 구축되어 있으며, 교차점을 고려할 경우 거의 독점적으로 인종과 성별에 초점을 맞추고 있습니다. 문서화된 AI 사고에 대한 대규모 분석을 바탕으로 우리는 AI 피해가 한 번의 정체성 범주씩 발생하는 것이 아님을 보여줍니다. 대형 언어 모델 (LLM) 을 적용한 구조화된 평가 기준 (structured rubric) 을 사용하여, AI 사고 데이터베이스 (AI Incident Database) 의 1,200 건 문서화 사고 보고서 중 5,300 건을 분석했습니다. 이 보고서들을 통해 우리는 1,513 명의 피해자 및 해당 정체성 범주를 식별하여 98% 의 정확도를 달성했습니다. 개별 범주 수준에서는 연령과 정치적 정체성이 인종과 성별과 유사한 비율로 문서화된 AI 피해에 나타나는 것을 발견했습니다. 교차하는 범주 수준에서는 특정 교차점 (adolescent girls, lower-class people of color, upper-class political elites) 에서 피해가 최대 3 배까지 증폭되는 것으로 나타났습니다. 우리는 교차성 (intersectionality) 이 사회 집단 간에 피해가 어떻게 생성되고 분포되는지를 더 정확하게 포착하기 위해 AI 위험 평가의 핵심 구성 요소여야 한다고 주장합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기