System One 임상 지능을 향하여: 결정 기반 파인튜닝 및 반사실적 설명 가능성 (Counterfactual Explainability)
요약
본 논문은 환자 증상을 이용한 질병 분류를 위해 결정 기반 파운데이션 모델 Clef-Flash를 제안합니다. 이 모델은 Qwen3.5 백본을 기반으로 하며, 4비트 양자화와 차분 학습률을 적용하여 높은 진단 정확도(95.42%)를 달성했습니다. 특히 생성형 LLM 대비 월등히 빠른 추론 속도와 증상 제거를 통한 반사실적 설명 가능성을 입증하며 임상 분류에의 활용 가능성을 제시합니다.
핵심 포인트
- 결정 기반 모델이 높은 정확도와 낮은 지연 시간을 동시에 제공함.
- Clef-Flash는 95.42%의 진단 정확도를 달성하여 기존 기준치를 능가함.
- 생성형 LLM 대비 추론 속도가 31배 빨라 실시간 임상 적용에 유리함.
- LOSO 프레임워크를 통해 증상 기반의 설명 가능성을 확보함.
환자가 보고한 증상을 이용한 자동 질병 분류는 경량의 판별 모델(discriminative models)의 속도와 자기회귀 대규모 언어 모델(LLMs)의 문맥 이해력 및 지연 시간 비용 사이의 균형을 필요로 합니다. 결정 기반 파운데이션 모델(Decision foundation models)은 자유 형식 텍스트 생성 없이 표현(representations)을 후보 클래스에 직접 매핑함으로써 대안을 제시합니다. 우리는 Qwen3.5 백본(backbone)을 기반으로 구축된 90억 개 매개변수 규모의 결정 모델인 Clef-Flash를 Symptom2Disease 벤치마크에서 24개 클래스 질병 분류에 적용했습니다. 차분 학습률(differential learning rates)과 층화 분할(stratified split)을 사용하여 4비트 양자화 저랭크 적응(QLoRA)을 적용한 결과, 모델은 95.42%의 진단 정확도와 0.9551의 매크로 F1 점수를 달성했습니다. 이는 원격 API에서 보고된 제로샷 기준선(zero-shot baselines)인 61.67% 및 로컬 비적응 초기화에서의 65.00%를 개선한 수치이며, ClinicalBERT 기준선(90.90%)을 능가합니다. 자기회귀 디코딩 없이 단일 순방향 패스(single forward pass)에서 후보 로짓(candidate logits)을 평가함으로써, 추론 시간은 단일 GPU에서 기록당 80밀리초 미만으로 소요되어 생성형 LLM 기준선 대비 31배의 속도 향상을 보여줍니다. 증상 수준의 근거를 검토하기 위해, 우리는 Leave-One-Symptom-Out (LOSO) 반사실적 교란 프레임워크(counterfactual perturbation framework)를 도입했습니다. 건선(psoriasis) 예시에서 질병을 정의하는 증상 구절을 제거하자 예측 클래스 신뢰도가 100.00%에서 0.12%로 감소하고, 예측은 99.59%의 신뢰도로 임페티고(impetigo)로 이동했습니다. 반면, 이차적인 전신 증상을 제거했을 때는 신뢰도 변화가 0.01% 미만이었습니다. 이러한 발견들은 결정 기반 아키텍처가 대규모 파운데이션 모델의 언어적 능력과 낮은 지연 시간 추론 및 증상 수준 해석 가능성을 임상 분류(clinical triage)에 결합할 수 있음을 시사합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기