2B/4B/9B 소형 모델을 로컬에서 사진, 업무 기록 및 텍스트를 동시에 읽고, 주어진 옵션에 따라 확률과 '판단 불가'가 포함된 결정을

요약

Jevstiller는 로컬 소형 모델이 여러 번의 네트워크 왕복(network round trip)이 필요한 요청들을 점진적으로 처리할 수 있도록 돕는 기술입니다. 이 시스템은 하드코딩된 발산 임계값을 활용하여 부정확한 응답의 비율을 제한하며, 사진, 업무 기록 및 텍스트를 동시에 읽고 확률적 판단을 포함하는 결정을 내릴 수 있습니다.

핵심 포인트

• 로컬 소형 모델이 다중 네트워크 왕복 요청 처리 가능
• 하드코딩된 발산 임계값으로 부정확성 제어
• 사진, 업무 기록, 텍스트를 통합 분석하여 결정 도출