arXiv논문2026. 11. 13. 11:38

대규모 언어 모델은 통증 관리에서 인종 및 성별 편향을 보이는가? GPT, Claude, Gemini, Llama, DeepSeek 대표 이미지

대규모 언어 모델은 통증 관리에서 인종 및 성별 편향을 보이는가? GPT, Claude, Gemini, Llama, DeepSeek

원문 발행 2026. 11. 11. 11:35원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 연구는 대규모 언어 모델(LLMs)이 통증 관리 시나리오에서 인종 및 성별 편향성을 보이는지 다각도로 분석했습니다. GPT, Claude, Gemini 등 17개 모델을 대상으로 테스트한 결과, LLMs가 기존 의료 시스템의 편향을 재현할 수 있음을 확인했습니다. 또한 임상 AI에 대한 공정성 감사를 위한 구체적인 방법론적 개선점을 제시합니다.

핵심 포인트

LLMs는 백인 환자보다 인종/민족 소수자가 적은 통증 치료를 받는 경향을 재현할 수 있다.
GPT-4.1 mini, Claude Haiku 4.5 등 다수 모델이 비교되었으며, 전반적인 통증 심각도 차이는 동등했다.
임상 AI 감사 시 그룹당 여러 이름 사용 및 시드를 이용한 쌍별 비교가 필수적이다.
모델 간의 편향성 차이가 환자 개개인의 치료 차이보다 훨씬 크다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기

0

댓글

0

비히스패닉 백인 환자보다 인종 및 민족 소수자 환자가 더 적은 통증 치료를 받는 경향이 있으며, 의료 AI로 사용되는 대규모 언어 모델(LLMs) 역시 이러한 편향을 재현할 수 있다. 이전 감사에서는 몇 가지 독점 모델만 테스트했으며, 인종을 명시적으로 언급하거나 모델 자체의 응답 불안정성을 거의 측정하지 않았다. 탐색적이고 사전 등록되지 않은 분석에서 Study 1은 네 개의 오픈 웨이트(open-weight) LLMs가 네 가지 인종과 두 성별의 모든 조합에 대해 여섯 가지 급성 통증 시나리오(acute-pain vignettes)를 평가하도록 했으며, 신원은 이름으로만 명시하거나 유도했다 (그룹당 두 개의 이름). 각 신원을 동일한 사례와 샘플링 시드를 가진 백인 남성과 비교했다. Study 2에서는 OpenAI의 GPT-4.1 mini 및 gpt-oss, Anthropic의 Claude Haiku 4.5, Google의 Gemini 2.5 Flash, Meta의 Llama, DeepSeek, Qwen을 포함한 총 17개 모델의 24가지 구성을 사용하여, 추론(reasoning) 유무와 두 가지 정밀도에서 동일한 시나리오 및 임상의가 작성한 50개의 Q-Pain 사례에 답변하도록 했다. 이 단일 프롬프트, JSON 제약 조건 태스크에서는 Study 1에서 수정 후 차이가 발견되지 않았고, Study 2의 1,386개 비교 중 어느 것도 거짓 발견율(false discovery rate)을 통과하지 못했으며, 모든 통증 심각도 차이는 0-10점 척도에서 한 점 이내로 동등했다 (238개의 Q-Pain 비교 중 237개). 오피오이드 결정은 덜 정밀하게 경계 지어졌기 때문에(Study 1에서는 약 20 퍼센트 포인트의 차이를 배제할 수 없었음) 감지된 차이는 없으며, 이는 없음의 증거는 아니다. 모델 내에서 수정 후 살아남은 몇몇 차이점들은 흑인 환자에게 유리했다. 모델 간의 차이가 환자 간의 차이보다 훨씬 더 크며(참조 환자는 응답의 6%에서 93%까지 높은 오피오이드 용량을 받음), 서비스 소프트웨어, 제공자, 프롬프트 형식도 달랐다. 임상 AI에 대한 공정성 감사는 그룹당 여러 이름을 사용하고, 시드를 이용한 쌍별 비교를 수행하며, 노이즈 플로어(noise floor)를 보고하고, 배포된 모든 구성을 테스트해야 한다.