언어 모델에서의 인공적 불확실성 유도 (Inducing Artificial Uncertainty in Language Models)

요약

안전 필수 애플리케이션에서 언어 모델은 자신의 불확실성을 정확하게 정량화할 수 있어야 하지만, 대규모 언어 모델(LLMs)이 방대한 데이터로 학습되면서 적절한 도전적 데이터를 찾기 어려워지고 있습니다. 이 문제를 해결하기 위해 본 논문은 언어 모델에 인공적인 불확실성(artificial uncertainty)을 유도하는 방법을 제안합니다. 연구진은 인공적 불확실성을 인식하도록 훈련된 프로브(probes)를 사용하여, 쉬운 데이터에서도 실제 불확실성을 효과적으로 포착하고 높은 캘리브레이션 성능을 달성할 수 있음을 입증했습니다.

핵심 포인트

• 안전 필수 애플리케이션에서 언어 모델의 불확실성 정량화(uncertainty quantification)는 핵심 요구사항이다.
• LLMs가 데이터셋을 포화시키면서, 지도 학습 기반으로 도전적인 데이터를 찾는 것이 어려워지고 있다.
• 본 연구는 언어 모델에 인공적 불확실성을 유도하는 방법을 제시하여 이 문제를 해결한다.
• 인공적 불확실성으로 훈련된 프로브(probes)가 실제 불확실성 인식에서 우수한 성능을 보였다.
• 이 방법은 쉬운 데이터에서의 성능 손실을 최소화하면서 어려운 데이터에서 높은 캘리브레이션을 달성한다.