본문으로 건너뛰기

© 2026 Molayo

llama.cpp헤드라인2026. 06. 23. 02:28

server: (router) 모델 다운로드를 전용 프로세스로 이동 ([#24834](https://github.com/ggml-org/llam

요약

llama.cpp의 서버 기능 업데이트로 모델 다운로드가 전용 자식 프로세스로 이동되었습니다. SSE를 통한 실시간 로드 진행 상황 추적 기능이 추가되었으며, 다양한 OS 및 아키텍처를 위한 최신 바이너리가 배포되었습니다.

핵심 포인트

  • 모델 다운로드 프로세스를 자식 프로세스로 분리하여 안정성 개선
  • SSE를 활용한 실시간 모델 로드 진행 상황 추적 지원
  • macOS, Linux 등 다양한 환경을 위한 최신 빌드 제공
  • 테스트 케이스 수정 및 성능 최적화를 위한 스로틀링 적용

server: (router) 모델 다운로드를 전용 프로세스로 이동 (#24834)

  • server: /models/sse를 통한 실시간 모델 로드 진행 상황 추적

  • 문서 업데이트

  • server: 모델 다운로드를 자식 프로세스로 이동

  • 사용하지 않는 항목 제거

  • 대부분의 문제 수정

  • 정리

  • 사소한 수정 (nit fixes)

  • 테스트 케이스 수정

  • detact() 스레드 수행 안 함

  • 테스트에서 MODEL_DOWNLOAD_TIMEOUT 단축

  • 스로틀 (throttle)

macOS/iOS:

Linux:

Android:

Windows:

openEuler:

openEuler:

  • DISABLED
  • openEuler x86 (310p)
  • openEuler x86 (910b, ACL Graph)
  • openEuler aarch64 (310p)
  • openEuler aarch64 (910b, ACL Graph)

UI:

AI 자동 생성 콘텐츠

본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0