AI Gateway에 신뢰도 기반 결정 폴백 추가

이제 기본 모델의 응답이 설정한 신뢰도 조건(confidence condition)을 위반할 경우, 해당 결정 요청을 폴백 모델로 에스컬레이션(escalate)할 수 있습니다.AI Gateway

조건들을 결합할 수 있어, 한 번의 에스컬레이션이 여러 신호에 의존할 수 있습니다. 기존에 keep에서 명시한 모델 이름들은 여전히 치명적인 오류(outright errors)를 포착하므로, 기존 폴백 기능에는 영향을 주지 않습니다. 신뢰도 조건은 Choice 및 Score 질문을 다룹니다. 부울(Boolean) 질문의 경우 확률 범위(probability range)에 따라 에스컬레이션됩니다.
models

폴백 설정은 .gateway에 조건부 객체 하나를 추가하여 수행합니다. 이 부분이 없는 요청들은 기존 동작 방식을 유지합니다.providerOptions.gateway.models

만약 condition을 생략하면, 해당 유형의 모든 질문이 검사되며, Choice 또는 Score 답변 중 어느 하나라도 0.6 미만일 경우 에스컬레이션됩니다.`question``{