hexagon: add HTP kernel for GGML_OP_GATED_DELTA_NET (#22837) Implement the Gated

요약

이 기술 기사는 GGML_OP_GATED_DELTA_NET 연산을 위해 Hexagon 프로세서에 HTP(High Throughput) 커널을 구현하는 과정을 다룹니다. 이 개선 사항은 프롬프트 처리(PP) 경로와 토큰 생성(TG) 경로 모두에서 최적화된 융합 커널을 제공하며, 특히 TG 경로의 K/Q/게이트 벡터 재로드 오버헤드를 2배 감소시킵니다. 또한 macOS, Linux, Android, Windows 등 광범위한 다양한 아키텍처와 프레임워크(CUDA, Vulkan, ROCm, OpenVINO 등)를 지원하도록 포팅 범위를 확장했습니다.

핵심 포인트

• GGML_OP_GATED_DELTA_NET 연산을 위한 Hexagon HTP 커널 구현
• PP 및 TG 경로에 대한 융합 커널을 통해 성능 최적화 달성
• TG 경로에서 K/Q/게이트 벡터 재로드 오버헤드를 2배 감소시키는 기술 적용
• macOS, Linux, Android, Windows 등 광범위한 플랫폼 지원 확보 (CPU, GPU, 가속기 포함)
• 다양한 백엔드 및 프레임워크(CUDA, Vulkan, ROCm, OpenVINO, SYCL)에 대한 포팅 완료