EQUITRIAGE: LLM 기반 응급실 분류의 성차별에 대한 공정성 감사

요약

본 논문은 LLM 기반 응급실(ED) 분류 시스템의 공정성을 평가하기 위한 'EQUITRIAGE'라는 프레임워크를 제시합니다. 이 연구는 5개 모델을 사용하여 MIMIC-IV 데이터셋에서 성별에 따른 편향성(undertriage)을 감사했으며, 대부분의 모델이 임상적 증거와 유사하게 여전히 높은 플립률과 방향성 여성 불분류 경향을 보임을 확인했습니다. 또한, 인종/성별 정보 비공개 등의 개입 기법이 일부 편향성을 줄일 수 있지만, 공정성 속성이 서로 다르며 모델 의존적인 감사 과정이 필수적임을 강조합니다.

핵심 포인트

• LLM 기반 응급실 분류 시스템은 여전히 성별에 따른 불평등(undertriage)을 보이며, 임상적 편향을 재현할 위험이 높습니다.
• EQUITRIAGE 프레임워크는 그룹 평등, 카운터팩추얼 불변성 등 다양한 공정성 속성을 모델별로 감사하는 체계적인 방법을 제공합니다.
• 단순한 정보 비공개(blinding)만으로는 모든 편향을 제거할 수 없으며, 연령이나 이름/성별 조합 같은 근본적인 특징이 편향의 원인일 수 있습니다.
• LLM 기반 의료 AI를 임상에 배포하기 전에는 모델별 카운터팩추얼 감사(counterfactual auditing)가 필수적으로 선행되어야 합니다.