Laya와 같은 유형 결정 모델(typed-decision model)은 텍스트와 호출자가 정의한 옵션 목록(예: 티켓 카테고리)을 읽고 각 옵션에 대한 확률을 반환합니다. 주변 코드는 이 최고 확률을 임계값과 비교하여 답변, 기권 또는 담당자에게 에스컬레이션할지 결정합니다. 이전 연구에서는 터키어 모델의 경우 온도 스케일링(temperature scaling)이 보유된 교정 오차(held-out calibration error, ECE)를 높일 수 있다고 보고했습니다. 본 튜토리얼은 표준 방법만을 사용한 5단계 레시피(측정(measure), 진단(diagnose), 적합(fit), 검증(validate), 배포(deploy))를 numpy로 130줄 분량으로 제공하며, 이 중 새롭거나 독창적인 방법은 없습니다. 1,065개의 합성 데이터 및 LLM이 레이블링한 항목에 대해 공개된 Laya 체크포인트는 통합 ECE(pooled ECE)가 0.073이지만 버킷-매크로 ECE(bucket-macro ECE)는 0.143 (0.127–0.184)입니다. 이는 유형 및 옵션 개수에 따라 그룹화된 질문에 대한 평균값입니다. 12개 옵션 버킷은 +0.22만큼 과신하고, 3~5개 옵션 버킷은 0.05만큼 저신뢰도를 보이며, 이 두 값은 상쇄됩니다. 단일 전역 온도(global temperature)는 통합 ECE를 악화시키고 (0.173), 버킷별로 교차 적합된 온도(cross-fitted temperature per bucket)는 매크로-ECE를 0.073 (10 폴드 할당 기준 0.078)으로 낮추며, 버킷당 10개의 레이블링된 항목을 사용할 경우 0.089에 도달하지만, 평가 세트 중 하나를 제외하면 0.099가 됩니다. 재적합(refit) 후, 10% 오류율을 목표로 하는 게이트는 공개된 신뢰도 점수 대비 항목의 46.3%(오답률 10.5%)에 대해 작동하는 반면, 6.9%에 대해서만 작동합니다. 그러나 공개된 신뢰도 점수에 대한 버킷별 단일 차단값(cut-off)은 45.4%를 답변하므로, 대부분의 개선점은 버킷을 분리하는 것에서 나옵니다. 신뢰도 전용 지도(Confidence-only maps)(Platt, histogram, isotonic)는 온도에 근접하기 위해 버킷당 20개 이상의 레이블링된 항목이 필요합니다. 버킷당 320개를 사용할 경우 가장 낮은 매크로-ECE를 보이는 것은 Platt 방식입니다. 이 파일들에서 재훈련된 체크포인트는 버킷별 테이블을 저장하지 않으며, 저장된 12개 옵션 값 0.1006은 런타임에 0.5로 클램프됩니다. 재적합(refit) 과정은 무작위 폴드 중 33개 중 31개 체크포인트와 제외된 세트가 있는 경우 21개의 체크포인트에 도움을 줍니다. 적합(Fit)과 테스트는 하나의 생성기 및 LLM 레이블을 공유하므로, 이는 해당 체크포인트와 데이터에 대한 발견 사항입니다.