b11560: hexagon에 IM2COL_3D 지원 추가
요약
본 기술 기사는 hexagon 프로세서의 이미지 처리(IM2COL) 기능에 대한 여러 최적화 및 개선 사항을 다룹니다. IM2COL_3D 지원 추가, DMA 경로 개선, 그리고 스칼라 변환 방지 등 다양한 하드웨어 레벨의 성능 향상을 목표로 합니다.
핵심 포인트
- IM2COL_3D 지원이 추가되어 3차원 이미지 처리가 가능해졌습니다.
- DMA 경로 및 캐노니컬 dma dbl-buff 파이프라인을 재작성하여 효율성을 높였습니다.
- 불필요한 스칼라 변환과 비효율적인 FP 변환을 제거했습니다.
- 비연속(non-contigue) 뷰 지원 등 기능적 개선도 이루어졌습니다.
- hexagon: IM2COL_3D 지원 추가
Assisted-by: OpenCode
- hexagon: IM2COL_3D를 위한 DMA 경로 추가
Assisted-by: OpenCode
- hexagon: IM2COL에서 스칼라 fp16 변환 방지
Assisted-by: OpenCode
- pre-v81 장치에서 루프 내 spill 제거
Assisted-by: OpenCode
-
hex-im2col: 캐노니컬 dma dbl-buff 파이프라인을 사용하도록 재작성하고, div 및 매우 비효율적인 fp 변환 제거
-
hex-im2col: kernel_params 및 vtcm 레이아웃 사전 계산을 호스트로 이동
-
hex-im2col: dma-push 횟수의 명시적 추적 제거
-
hex-im2col: 잘못된 uint64_t 캐스팅 제거
-
hex-im2col: dma 루프에 대한 매크로가 필요하지 않으며, compute func ptr을 로컬 컨텍스트를 통해 전달
-
hex-im2col: 커서 패턴, 추적 및 적절한 n_threads 처리
-
hex-im2col: 비연속(non-contigue) 뷰 지원
-
hex-im2col: 사소한 재형식 지정
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0