모호성 하에서의 불확실성 인지 생성 및 의사결정

급격히 향상되는 능력과 함께, 대규모 언어 모델 (LLMs)은 점점 더 많은 복잡한 현실 세계 작업에 사용되고 있습니다. 이러한 작업 중 다수는 심도 있는 지식과 추론 능력을 요구할 뿐만 아니라, 높은 수준의 주관성을 나타내며 모델의 출력을 신뢰할 수 있어야 합니다. 더 나은 모델을 훈련하기 위해 많은 진전이 이루어졌지만, 의사결정 (decision-making) 알고리즘은 상대적으로 적은 관심을 받았습니다. 본 연구에서는 베이지안 의사결정 이론 (Bayesian decision theory) 및 위험 회피적 의사결정 (risk-averse decision making)에 기반하여, 튜터링 (tutoring) 및 자동 동료 검토 (automatic peer reviewing) 작업에 대한 다양한 불확실성 인지 의사결정 알고리즘을 제시하고 평가합니다. 구체적으로, 우리는 튜터 응답이나 검토를 생성할 때 튜터링 전략 및 검토 점수에 대한 불확실성을 고려하며, 전략과 점수에 대한 보장을 제공하기 위해 일치 예측 (conformal prediction)을 사용합니다. 우리는 이러한 알고리즘이 생성물의 효용 (utility)을 향상시킬 수 있지만, 모호성 (ambiguity)이 높을 때는 주의 깊게 구현되어야 함을 경험적으로 발견했습니다. 예를 들어, 위험 회피적 규칙은 일반적인 출력에 최적화함으로써 성능을 저하시킬 수 있는 반면, 베이지안 방법론은 더 나은 성능을 보이는 경향이 있습니다. 본 연구는 의사결정 이론의 기술을 사용하여 LLM 기반 의사결정을 개선하며, 커뮤니티를 위한 향후 과제들을 제시합니다.