b11580: hexagon: 이진 연산에 대한 스칼라 DMA 브로드캐스팅 지원 확장 (#30245)
요약
이 기술 기사는 AI 연산 라이브러리(ggml 등)의 성능 개선 및 기능 확장에 대한 내용을 다룹니다. 스칼라 DMA 브로드캐스팅 지원을 확장하고, 다양한 이진 연산 경로를 최적화하여 메모리 접근 효율성과 계산 정확도를 높이는 데 중점을 두었습니다.
핵심 포인트
- 스칼라 DMA 브로드캐스팅 기능을 확장하여 성능을 개선했습니다.
- 다양한 비트 연산(hex-binary)의 non-dma 경로를 정리하고 지원 범위를 넓혔습니다.
- 가중치 반복 및 스칼라 브로드캐스트 커버리지를 테스트에 추가했습니다.
- tests: 가중치 스칼라 브로드캐스트 커버리지 추가
Assisted-by: OpenCode
- ggml : 확장된 스칼라 DMA 이진 연산 지원
Assisted-by: OpenCode
-
hex-binary: 모든 non-dma 경로 제거
-
hex-binary: non-contig 스트라이드에 대한 지원 추가 및 dma preable 정리
-
hex-binary: 게이팅 정리 및 dma 재시도 단순화
-
hex-geglu-erf: F32 전용 게이트 추가 (본 연산의 경우 F16을 지원하지 않음)
-
tests: 가중치 반복 브로드캐스트 커버리지 추가
Assisted-by: OpenCode
-
hex-binary: REPEAT 및 COMPLEX 커널에 dma 사용 업데이트 (지난번에 누락됨)
-
hex-add-id: src2 (idx)에 대한 dma 지원 추가
Co-authored-by: Max Krasnyansky [email protected]
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기