arXiv논문2026. 11. 13. 20:01

매개변수 효율적 간결성 적응: 소형 언어 모델의 간결한 임상 추론을 위한 미분 가능한 길이 제어 대표 이미지

매개변수 효율적 간결성 적응: 소형 언어 모델의 간결한 임상 추론을 위한 미분 가능한 길이 제어

원문 발행 2026. 11. 13. 02:21원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

소형 언어 모델(SLMs)은 임상 NLP에 유용하지만 답변이 지나치게 장황하다는 한계가 있습니다. 본 글은 QLoRA 지도 파인튜닝 목표 함수에 미분 가능한 간결성 항을 추가한 PECA를 제안합니다. 이 방법은 토큰 예산을 초과할 때 종료 확률을 높여 응답 길이를 효과적으로 줄이면서도 진단 정확도를 향상시킬 수 있음을 입증했습니다.

핵심 포인트

SLMs는 임상 NLP에 활용되나, 답변의 장황함이 현장 사용 시 장애물입니다.
PECA는 QLoRA 목표 함수에 미분 가능한 간결성 항을 추가하여 문제를 해결합니다.
간결성 강도 조절을 통해 정확성과 길이 사이의 균형점을 찾을 수 있습니다.
17B 모델에서 평균 응답 길이를 72.8% 줄이고 진단 정확도를 향상시켰습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기

0

댓글

0

소형 언어 모델(SLMs)은 대규모 독점 모델이 너무 비용이 많이 드는 곳에서 임상 자연어 처리(NLP)를 배포하는 것을 가능하게 하며, 매개변수 효율적 파인튜닝(parameter-efficient fine-tuning)을 통해 범용 하드웨어에서도 전문화될 수 있게 합니다. 훈련 후에도 여전히 한 가지 장애물이 남아있는데, 바로 의료 작업에서 이 모델들이 임상 질문이 요구하는 것보다 훨씬 긴 길이로 답변한다는 것입니다. 시간이 부족한 임상 의사 결정 지원 및 현장 사용 환경에서는, 근본적인 추론 과정이 건전하더라도 이러한 장황함은 대응하기 어렵습니다. 기존의 길이 제어 방법들은 선호도 최적화(preference optimization), 보상 모델(reward models) 또는 접근성을 떨어뜨리는 독점 교사(proprietary teachers)에 의존합니다. 이는 SLMs가 매력적인 대안이 되도록 만듭니다.

저희는 Parameter-Efficient Conciseness Adaptation (PECA)을 소개하며, 이는 QLoRA 지도 파인튜닝 목표 함수(QLoRA supervised fine-tuning objective)에 단일한 미분 가능한 간결성 항(differentiable conciseness term)을 추가합니다. 토큰 개수는 이산적이고 미분 가능하지 않기 때문에, PECA는 대신 생성 과정이 토큰 예산을 초과할 때 종결 시퀀스 확률(end-of-sequence probability)을 높입니다. 이는 선호도 데이터나 보조 모델 없이 일반적인 훈련 중에 최적화되는 부드러운 신호입니다. 이 방법은 단일 범용 GPU만으로 구현 가능합니다.

17억 개의 매개변수를 가진 모델을 medical-o1-reasoning-SFT 코퍼스에 파인튜닝한 결과, PECA는 평균 응답 길이를 72.8% 줄이는 동시에 다지선다 진단 정확도를 40.8%에서 44.0%로 향상시켰습니다. 간결성 강도에 대한 탐색(sweep)은 간결성과 진단적 완전성을 균형 있게 맞추기 위한 해석 가능한 정확도-길이 경계면을 보여줍니다.