오해의 소지가 있는 의료 상황에서 LLM의 인식적 회복탄력성 측정

요약

본 연구는 LLM이 오해의 소지가 있는(misleading) 의료 상황에서 얼마나 정확한 판단을 내리는지 평가하기 위해 MedMisBench를 개발했습니다. 기존 벤치마크가 모델의 지식 측정에만 초점을 맞춘 반면, 본 연구는 적대적 문맥 하에서의 '인식적 회복탄력성'을 측정합니다. 테스트 결과, LLM은 오해의 소지가 있는 문맥에서 정확도가 크게 떨어지는 등 취약성을 보였습니다.

핵심 포인트

• LLM이 오해의 소지 있는 상황에서 판단력이 저하됨을 확인했습니다.
• MedMisBench는 의료 추론 및 적대적 환경에서의 모델 평가를 위한 새로운 벤치마크입니다.
• 권위 기반 허위 정보가 가장 해로운 주입 방식이었으며, 공격 성공률은 높았습니다.