b11536 업데이트: 모델 관리, 트레인드 컨텍스트 보고 및 UI 개선
요약
b11536 업데이트는 GGUF 메타데이터를 활용하여 모델의 학습된 컨텍스트(context_length) 정보를 읽어오는 기능을 강화했습니다. 이를 통해 서버와 UI에서 모델 목록을 오프라인으로 정렬 및 필터링할 수 있게 되었으며, 사용자 경험 개선을 위한 즐겨찾기 기능과 UI 수정도 이루어졌습니다.
핵심 포인트
- GGUF 메타데이터를 활용하여 학습된 컨텍스트 길이(context_length)를 읽어옴.
- 모델 로드 없이도 context_length를 파악하여 오프라인 정렬/필터링 지원.
- UI에서 즐겨찾기 모델 표시 및 관리자 테이블 개선으로 UX 향상.
- 전반적인 UI 텍스트 수정 및 사소한 오류 수정으로 안정성 강화.
- common : GGUF의 학습된 컨텍스트를 메타데이터에서 읽기
common_get_gguf_n_ctx_train은 파일의 메타데이터(no_alloc과 같이)만 열고 .context_length를 읽어오므로, 호출자는 모델을 로드하지 않고도 학습된 컨텍스트를 알 수 있습니다. u32와 u64 값을 모두 받아들이며, 파일이 누락되거나, 읽을 수 없거나, 유효하지 않거나, 컨텍스트 길이를 보고하지 않으면 0을 반환합니다.
Assisted-by: pi:zai-org/GLM-5.3-Flash
- server : 모델 목록에 학습된 컨텍스트 보고
uptdate_caps는 이미 오프라인으로 모델 파일을 해석하여 모달리티를 읽기 때문에, 이제 동일한 GGUF 메타데이터에서 학습된 컨텍스트를 읽고 GET /models가 알려진 경우 context_length로 이를 보고합니다. 라우터 목록은 허브(Hub) 요청 없이도 컨텍스트를 전달할 수 있게 되어 UI에서 오프라인으로 이를 정렬하고 필터링할 수 있습니다.
Assisted-by: pi:zai-org/GLM-5.3-Flash
- ui : 모델 목록에서 학습된 컨텍스트 가져오기
라우터가 이제 모델별로 context_length를 보고하므로, 옵션 매핑(option mapping)이 여기서 contextLength를 채우고 관리자(manager)는 허브 기록 전에 이를 읽습니다. 'Context' 열, 컨텍스트 정렬 및 컨텍스트 필터는 Hugging Face Hub API가 비활성화된 상태에서도 작동합니다. 브라우저 스위트(browser suite)가 정렬과 검색을 담당하며, 세부 정보가 도착했을 때의 허브 캐시 기반 컨텍스트 필터링 및 재정렬도 처리합니다.
Assisted-by: pi:zai-org/GLM-5.3-Flash
- ui : 하트 모양으로 즐겨찾기 모델 표시
즐겨찾기된 모델은 해당 행에 마우스를 올리기 전에도 선택기(selector)에 장미 하트를 보여주며, 마우스 오버 시에는 이 하트가 교차된 하트로 바뀝니다. 따라서 즐겨찾기 해제는 한 번의 호버만 거리에 있습니다. 관리자 테이블은 배지 및 기능 옆에서 같은 하트로 즐겨찾기된 행을 표시합니다.
Assisted-by: pi:zai-org/GLM-5.3-Flash
-
fix: UI 텍스트 수정
-
fix: UI 사소한 오류
-
fix: 모델 테이블에서 즐겨찾기 모델 그룹화
-
feat: 모델 테이블의 상태(Status) 열에서 정렬 제거
-
server: 모델당 GGUF 메타데이터를 한 번 읽기
결정 유형과 학습된 컨텍스트를 단일 GGUF 파일에서 읽고, 모델 로더와 마찬가지로 UINT32 컨텍스트 길이만 허용하며, 다른 용량들과 함께 n_ctx_train을 초기화하여 새로 고침 실패 시 해당 값이 떨어지도록 수정했습니다.
- fix: 검토 후 수정 사항들
공동 작성자: Pascal [email protected]
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기