임상용 대형 언어 모델 (LLM) 의 안전성과 정확성은 다른 확장 법칙을 따른다

요약

본 논문은 임상 환경에서 대형 언어 모델(LLMs)의 안전성과 정확성이 단순히 모델 규모를 키우는 것만으로는 보장되지 않음을 지적합니다. 연구진은 'SaFE-Scale' 프레임워크와 방사선 안전에 초점을 맞춘 'RadSaFE-200' 벤치마크를 개발하여, 다양한 배포 조건(예: 깨끗한 증거 제공, 모순 증거 처리)에서 LLM의 성능을 평가했습니다. 그 결과, 단순히 모델 크기를 키우거나 표준 RAG/에이전트형 RAG를 사용하는 것보다 '깨끗한 증거'가 가장 강력하게 안전성을 향상시키는 것으로 나타났으며, 임상용 LLM의 안전성은 배포 속성(증거 품질, 검색 설계 등)에 의해 결정됨을 강조합니다.

핵심 포인트

• 임상용 LLMs의 안전성은 단순히 모델 규모 확대만으로는 보장되지 않으며, 다른 확산 법칙을 따릅니다.
• 제안된 SaFE-Scale 프레임워크와 RadSaFE-200 벤치마크는 임상 환경에서의 LLM 안전성을 체계적으로 측정합니다.
• 깨끗한 증거(clean evidence)를 제공하는 것이 평균 정확도를 높이고 고위험 오류 및 모순을 줄이는 데 가장 효과적인 방법입니다.
• 표준 RAG나 에이전트형 RAG만으로는 임상적 안전성 문제를 완전히 해결하지 못하며, 배포 속성이 중요합니다.
• LLM의 안전성은 규모가 아닌 증거 품질, 검색 설계, 컨텍스트 구성 등 '배포 속성'에 의해 형성됩니다.