로컬 AI를 위한 세계에서 가장 빠른 WebGPU 커널을 오픈소스로 공개했습니다

요약

200가지가 넘는 일반적인 ML 연산 커널을 WebGPU를 통해 브라우저 내에서 로컬로 실행할 수 있도록 오픈소스로 공개했습니다. 이 최적화된 커널들은 Transformers.js, ONNX Runtime Web 등 주요 라이브러리에 업스트림될 예정입니다.

핵심 포인트

• 200개 이상의 ML 연산 커널을 제공합니다.
• WebGPU를 활용하여 브라우저 내 로컬 실행이 가능합니다.
• Transformers.js, ONNX Runtime Web 등에 통합됩니다.