신뢰할 수 있는 임상 분류를 위한 도메인 적응형 소규모 언어 모델

요약

본 연구는 자유 텍스트 기반 문서에서 발생하는 높은 변동성으로 인해 어려움을 겪는 임상 분류(예: ESI 할당) 문제를 해결하기 위해 도메인 적응형 소규모 언어 모델(SLM)의 활용 가능성을 평가했습니다. 다양한 프롬프팅 기법을 비교한 결과, 간결한 요약 형태의 '임상 비니에트'가 가장 정확한 예측을 제공함을 확인했습니다. 특히, 전문가가 선별하고 실버 표준 데이터로 대규모 도메인 적응을 거친 Qwen2.5-7B와 같은 SLM이 기존의 기준선 모델이나 고급 LLM보다 우수한 성능과 안정성을 보여주었으며, 이는 사생활 보호 및 현장 적용에 매우 유용함을 시사합니다.

핵심 포인트

• 임상 분류는 텍스트 변동성으로 인해 오분류 위험이 높아 지속적인 도전 과제이다.
• SLM을 활용한 임상 의사결정 지원 도구 개발은 신뢰성과 사생활 보호 측면에서 큰 잠재력을 가진다.
• 프롬프트 엔지니어링 중 '임상 비니에트' 요약 형식이 가장 높은 예측 정확도를 보였다.
• 도메인 적응(Domain Adaptation)을 거친 SLM (예: Qwen2.5-7B)이 범용 LLM보다 임상 분류에서 더 우수하고 안정적인 성능을 입증했다.