다중 턴 의료 대화에서 오개념에 대한 거대 언어 모델 평가
요약
본 논문은 의료 대화에서 환자의 오개념(misconception)을 식별하고 교정하는 LLM의 능력을 평가하기 위해 ThReadMed-QA 데이터셋을 소개합니다. 실험 결과, 최신 모델들도 다중 턴 컨텍스트가 진행됨에 따라 오개념 교정 성능이 크게 저하되는 경향을 보였습니다. 이는 오류 전파(error propagation) 문제가 심각함을 시사하며, 지속적인 평가 프레임워크의 필요성을 강조합니다.
핵심 포인트
- 다중 턴 의료 대화 데이터셋 ThReadMed-QA를 제시함.
- LLM은 초기에는 오개념을 잘 교정하지만, 후속 턴에서 성능이 급격히 저하됨.
- 성능 저하는 주로 오류 전파(error propagation)에 기인함.
- 다중 턴 행동을 포착하는 새로운 평가 프레임워크가 필요함.
의료 정보를 찾는 환자들은 종종 잘못된 가정이나 오개념을 내포하는 질문을 합니다. 이러한 경우, 안전한 의료 커뮤니케이션은 단순히 질문에 답하는 것뿐만 아니라 근본적인 거짓 믿음을 식별하고 교정하는 것을 요구합니다. 이러한 상호작용은 자연스럽게 여러 턴(turns)에 걸쳐 전개되며, 이는 현재 LLM과의 상호작용에서도 나타나는 패턴입니다. 그러나 현재의 평가 프레임워크는 오개념이 발생하거나, 지속되거나, 대화 과정에서 진화할 수 있는 이러한 환경에서의 모델 행동을 포착하지 못합니다. LLM이 시간이 지남에 따라 그러한 오개념을 신뢰성 있게 교정할 수 있는지 여부는 아직 광범위하게 검토되지 않았습니다. 이를 연구하기 위해, 우리는 AskDocs의 실제 환자 상호작용에서 파생된 8,204개의 질문-답변 쌍으로 구성된 2,437개 환자-의사 대화 스레드인 다중 턴 의료 대화 데이터셋 ThReadMed-QA를 소개합니다. 이 데이터셋은 모델이 다중 턴 컨텍스트 하에서 오개념을 감지하고 교정할 수 있는지에 대한 체계적인 평가를 가능하게 합니다. 우리는 루브릭 기반의 LLM-as-a-Judge 프레임워크를 사용하여 다섯 가지 LLM을 평가했으며, 이 프레임워크는 응답이 오개념을 식별하고 교정하는 능력에 따라 점수를 매깁니다. 우리의 실험은 일관된 패턴을 보여줍니다: 심지어 단일 상호작용에서 오개념을 다룰 수 있는 최첨단 모델들조차도 후속 턴(turns)이 진행됨에 따라 크게 성능이 저하됩니다. GPT-5와 Claude-Haiku는 초기 질문에서 이러한 잘못된 전제들을 약 85% 정도 교정하지만, 두 번의 후속 대화가 오면 약 50% 수준으로 떨어집니다. 이전 모델 출력을 의사 응답으로 대체하는 오라클 분석(oracle analysis)은 성능 저하의 상당 부분이 오류 전파(error propagation)에 의해 발생함을 보여주며, 심지어 올바른 컨텍스트 하에서도 성능이 완벽하지 않음을 보여줍니다. 따라서 모델이 처음에 오개념을 교정하려는 경향을 보이더라도, 후반 턴으로 갈수록 성능이 크게 저하되어 환자에게 제공되는 환경에서 일관성이 없고 잠재적으로 안전하지 않은 지침을 초래하며, 다중 턴 행동을 포착하는 평가 프레임워크의 필요성을 강조합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기