b9967: 서버가 null 샘플링 파라미터 수락 기능 추가
요약
서버가 이제 클라이언트로부터 nullable 파라미터(temperature, top_p 등)에 null 값을 받아들이고 기본값을 요청할 수 있도록 기능을 확장했습니다. 이는 OpenAI 사양 및 json_value 규칙과 일치하며, 필드 평가 가드에서 null을 건너뛰기 위해 has_field()가 has_value()로 변경되었습니다.
핵심 포인트
- 클라이언트가 nullable 파라미터에 null 전송 가능
- 서버가 기본값 요청 처리 기능 추가
- OpenAI 사양 및 json_value 규칙 준수
- server: accept null sampling params
스키마 검증을 확장하여 null 값을 부재(absent)로 처리하도록 하여, 클라이언트가 nullable 파라미터(temperature, top_p 등)에 null을 전송하고 서버의 기본값을 요청할 수 있게 했습니다. 이는 OpenAI 사양 및 다른 곳에서 사용되는 json_value 규칙과 일치합니다.
필드 평가 가드(field eval guards)에서 null을 건너뛰기 위해 has_field()를 추가했습니다.
- has_field -> has_value
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0