소형 언어 모델(Small Language Models)의 언어화된 불확실성(Verbalized Uncertainty)에 대한 증명 가능한

요약

본 연구는 소형 오픈 웨이트 언어 모델이 답변의 신뢰도를 명시적으로 표현하는 것이 위험 제어형 유예(risk-controlled deferral)를 지원할 수 있는지 탐구합니다. 11개 지시어 튜닝 모델을 대상으로 ARC-Challenge 및 TruthfulQA에서 평가한 결과, 보정 기법들이 제공할 수 있는 범위에 대한 세 가지 이론적 한계를 제시했습니다.

핵심 포인트

• 언어화된 신뢰도는 위험 제어형 유예를 지원하는 핵심 요소입니다.
• 엄격하게 단조로운 보정은 위험-커버리지 프런티어를 보존합니다.
• Platt 스케일링을 사용해도 높은 수준의 인증된 자율성은 제한적입니다.