ChatGPT의 건강 조언은 얼마나 안전한가? 네 개 글로벌 사우스 국가의 실제 사용자 대화에서 얻은 증거

사람들은 점점 더 자신의 건강 질문을 ChatGPT에 가져오고 있지만, LLM(대규모 언어 모델)의 건강 조언에 대한 안전성 평가는 거의 전적으로 임상의가 작성한 가상 시나리오(vignettes), 합성 프롬프트 또는 시뮬레이션된 사용자 프로필에 의존하고 있습니다. 이러한 격차는 글로벌 사우스 지역에서 가장 크며, 이곳에서는 인구통계학적 편향과 안전하지 않은 권고에 대한 우려가 잘 문서화되어 왔지만 실제 사용 사례로 테스트된 적은 없습니다. 우리는 ChatGPT를 이용한 실제 건강 대화에 대한 최초의 인구통계학적으로 기반을 둔 안전성 평가를 제시합니다. 인도, 나이지리아, 브라질, 파키스탄의 1,252명의 사용자로부터 얻은 동의 기반 데이터 기증 코퍼스(202,590개의 대화)를 활용하여 (2022년 12월부터 2026년 2월까지), 각 대화는 자가 보고된 연령 및 성별과 연결되어 있습니다. 우리는 이 중 15,555개의 건강 관련 대화를 식별하고, 확립된 분류 체계(taxonomy)를 기반으로 조정된 LLM 분류기를 사용하여 그 건강 의도를 분류하며, 컨텍스트에 무관한 방식(context-blind)과 사용자 컨텍스트 인식 방식(user-context-aware)의 두 가지 기준에 따라 응답 안전성을 점수화했습니다. 대략 5건 중 1건의 건강 관련 대화가 높은 위험 등급을 받았습니다. 위험은 증상 및 질환 문의에 집중되며, 다음과 같은 식별 가능한 실패 양상을 통해 재발합니다: 안전하지 않은 약물 또는 복용량 지침, 해로운 자가 진단, 누락된 안전 경고, 모델에 대한 과도한 의존 장려, 그리고 사용자에게 전문가를 참조하도록 하는 데 실패하는 경우입니다. 사용자의 축적된 컨텍스트를 제공하면 높은 위험 비율이 13~17 퍼센트포인트 증가하며, 고립 상태에서 안전하다고 평가받았던 대화 중 약 4분의 1이 특정 질문자에게는 안전하지 않은 것으로 밝혀집니다. 합성 사례에 기반한 안전성 평가는 이러한 위해 요소를 놓칠 가능성이 높습니다.