- llm: fit 패딩과 함께 iGPU mmproj 오프로드 허용 llama.cpp의 fit 패스는 멀티모달 프로젝터가 로드되기 전에 텍스트-

요약

llama.cpp의 fit 패스는 멀티모달 프로젝터 로드 전 텍스트 모델 배치를 수행합니다. 기존에는 Ollama가 비(非)Metal iGPU에서 안전을 위해 프로젝터 오프로드를 비활성화하여 메모리 사용에 제약이 있었습니다. 이번 업데이트는 통합 GPU가 동일한 프로젝터-메모리 검사를 사용하도록 개선하고, 필요한 공간 확보 로직을 추가했습니다.

핵심 포인트

• llama.cpp의 fit 패스가 멀티모달 프로젝터 로드 전 텍스트 모델 배치를 수행합니다.
• 비(非)Metal iGPU에서 프로젝터 오프로드가 활성화되어 메모리 사용 효율성이 높아졌습니다.
• LLAMA_ARG_FIT_TARGET에 추가 공간을 확보하여 안정적인 프로젝터 할당이 가능해집니다.