모델: granite multilingual embeddings R2 (ibm-granite/granite-embedding-{97,311}m-

모델: granite multilingual embeddings R2 (ibm-granite/granite-embedding-{97,311}m-multilingual-r2) 지원 (#22716)

• ibm-granite/granite-embedding-{97m,311m}-multilingual-r2 임베딩 (embedding) 모델 지원 추가:

• 정규 표현식(regex)이 수정된(마크 처리가 개선된) gpt4o 토크나이저 (tokenizer) 버전 추가 및 97m 모델을 위한 서로 다른 토큰 병합 (token merging) 설정 추가

• 311m 모델을 위해 gemma4 토크나이저 (tokenizer) 재사용

• granite-embedding-*-multilingual-r2: Granite Embedding Multilingual R2를 위한 SwiGLU FFN 지원 추가

• 새로운 GGUF 키 .hidden_activation (LLM_KV_HIDDEN_ACT) 및 라이터 (writer) 추가

• llama-hparams.h에 llm_ffn_op_type의 전방 선언 (forward declaration) 추가

• hparams에 llm_ffn_op 추가

• llm_ffn_op_type (값 초기화)에 LLM_FFN_NONE = 0 센티널 (sentinel) 추가, modern-bert: GGUF를 읽기 전에 LLM_FFN_GEGLU를 명시적으로 할당 (변경 사항 없음).

• llama-model.cpp에서 hidden_act 매핑을 중앙 집중화하고, rope_scaling_type/llama_rope_scaling_type_from_string()을 미러링하는 llm_ffn_op_type_from_string() 헬퍼 (helper) 추가

• modern-bert가 GGUF 키를 읽고 (존재하는 경우) 결과 연산(op)을 FFN 그래프에서 사용

• 컨버터 (converter) 코드에 granite-embedding-{97m,311m}-multilingual-r2 추가

• granite embedding multilingual R2 모델들에 대한 해시 (hashes) 추가

• config.json에 필드가 있는 경우 (granite embedding 모델과 같이) GGUF의 hidden_activation 설정

macOS/iOS:

macOS/iOS:

• macOS Apple Silicon (arm64)
• macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED
• macOS Intel (x64)
• iOS XCFramework

Linux:

• Ubuntu x64 (CPU)
• Ubuntu arm64 (CPU)
• Ubuntu s390x (CPU)
• Ubuntu x64 (Vulkan)
• Ubuntu arm64 (Vulkan)
• Ubuntu x64 (ROCm 7.2)
• Ubuntu x64 (OpenVINO)
• Ubuntu x64 (SYCL FP32) DISABLED

Android:

• Android arm64 (CPU)

Windows:

Windows:

• Windows x64 (CPU)
• Windows arm64 (CPU)
• Windows x64 (CUDA 12) - CUDA 12.4 DLLs
• Windows x64 (CUDA 13) - CUDA 13.3 DLLs
• Windows x64 (Vulkan)
• Windows x64 (SYCL) DISABLED
• Windows x64 (HIP)

openEuler:

• DISABLED
• openEuler x86 (310p)
• openEuler x86 (910b, ACL Graph)
• openEuler aarch64 (310p)
• openEuler aarch64 (910b, ACL Graph)

UI:

• UI