b9016

요약

llama.cpp v0.0.2570 릴리스는 추측 해독(speculative decoding) 관련 파라미터 명명 규칙을 대폭 개선하고 문서를 업데이트했습니다. 주요 변경 사항으로는 `--draft-max/--draft-min`이 `--spec-draft-n-max/--spec-draft-n-min`으로 변경되었으며, 다양한 새로운 `--spec-ngram-*` 파라미터에 대한 문서가 추가되었습니다. 이 버전은 CPU, GPU(CUDA, Vulkan, ROCm 등), 그리고 여러 운영체제 및 아키텍처를 포괄하는 광범위한 빌드 지원을 제공합니다.

핵심 포인트

• 추측 해독(speculative decoding) 파라미터 명명 규칙이 개선되어 사용성이 향상되었습니다.
• 기존 `--draft-max/--draft-min` 등의 파라미터가 새로운 `--spec-draft-n-max/--spec-draft-n-min` 형식으로 변경되었습니다.
• Vulkan, CUDA, ROCm, OpenVINO 등 다양한 백엔드 및 최적화 옵션이 추가되어 하드웨어 호환성이 극대화되었습니다.
• macOS (Apple Silicon, Intel), Linux (다양한 아키텍처/GPU), Windows, Android 등 광범위한 플랫폼을 지원합니다.