Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
llama.cpp의 Metal 백엔드에 col2im_1d 연산(f32/f16/bf16)을 추가했습니다. CPU 및 CUDA 경로와 동일한 동작을 보장하며, Apple Silicon 환경에서의 연산 효율성을 높였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기metal: col2im_1d 연산 (f32/f16/bf16) 추가 (#25176)
CPU/CUDA 경로를 미러링하는 Gather 커널: 각 출력(t_out, oc)은 F32 누산기(accumulator)를 사용하여 ceil(K/s0)개의 소스 컬럼을 읽으며, 단일 쓰기(write)를 수행하고 원자적 연산(atomics)을 사용하지 않습니다. 출력 요소당 하나의 스레드, 스레드 그룹(threadgroup)당 256개의 스레드를 사용합니다.
GGML_OP_COL2IM_1D 술어(predicate)를 CPU, CUDA 및 Vulkan 백엔드와 일치시킵니다: 커널은 선형 인덱싱(linear indexing)으로 목적지(dst)를 쓰며 src0와 동일한 타입을 가정하므로, supports_op 또한 연속적인 dst와 op->type == op->src[0]->type을 요구해야 합니다.
Co-authored-by: YiChen Lv [email protected]
Co-authored-by: YiChen Lv [email protected]
macOS/iOS:
Linux:
<strong>Linux:</strong>
<strong>Android:</strong>
<strong>Windows:</strong>
<strong>Windows:</strong>
openEuler:
UI: