app : llama 통합 실행 파일 도입 ( #23296 ) app : llama 통합 실행 파일 도입 Signed-off-by: Adrien
요약
Hugging Face 프로젝트에서 Llama 모델을 실행하기 위한 통합 실행 파일 도입을 위한 변경 사항이 반영되었습니다. 서버용 serve 기능이 추가되었으며, macOS, Linux, Android, Windows, openEuler 등 다양한 운영체제와 하드웨어 가속(CUDA, Vulkan, ROCm, OpenVINO 등)을 지원합니다.
핵심 포인트
- Llama 모델 실행을 위한 통합 실행 파일 도입
- 서버용 serve 기능 추가 및 help 명령 지원
- macOS(Apple Silicon 포함), Linux, Windows, Android, openEuler 등 광범위한 플랫폼 지원
- CUDA, Vulkan, ROCm, OpenVINO, SYCL 등 다양한 하드웨어 가속 기술 지원
app : llama 통합 실행 파일 도입 ( #23296 )
app : llama 통합 실행 파일 도입
Signed-off-by: Adrien Gallouët angt@huggingface.co
서버용으로 serve 사용
Signed-off-by: Adrien Gallouët angt@huggingface.co
completion 및 bench 숨김 처리, help 명령 추가
Signed-off-by: Adrien Gallouët angt@huggingface.co
STATIC 제거
Signed-off-by: Adrien Gallouët angt@huggingface.co
-lib 대신 -impl 타겟 사용
Signed-off-by: Adrien Gallouët angt@huggingface.co
"Remove STATIC" 되돌리기 (cc44cac 커밋을 되돌립니다)
Signed-off-by: Adrien Gallouët angt@huggingface.co
macOS/iOS:
macOS Apple Silicon (arm64)
macOS Apple Silicon (arm64, KleidiAI 활성화됨)
macOS Intel (x64)
iOS XCFramework
Linux:
Ubuntu x64 (CPU)
Ubuntu arm64 (CPU)
Ubuntu s390x (CPU)
Ubuntu x64 (Vulkan)
Ubuntu arm64 (Vulkan)
Ubuntu x64 (ROCm 7.2)
Ubuntu x64 (OpenVINO)
Ubuntu x64 (SYCL FP32)
Ubuntu x64 (SYCL FP16)
Android:
Android arm64 (CPU)
Windows:
Windows x64 (CPU)
Windows arm64 (CPU)
Windows x64 (CUDA 12) - CUDA 12.4 DLLs
Windows x64 (CUDA 13) - CUDA 13.1 DLLs
Windows x64 (Vulkan)
Windows x64 (SYCL)
Windows x64 (HIP)
openEuler:
openEuler x86 (310p)
openEuler x86 (910b, ACL Graph)
openEuler aarch64 (310p)
openEuler aarch64 (910b, ACL Graph)
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기