Ads Model Kernel Library

Meta Ads AI가 개발한 Meta 광고 추천 시스템을 위한 고성능 GPU 커널입니다. 이 라이브러리는 최적화된 GPU 커널 구현체를 제공합니다.

Projects

Project	Description	Architecture	Path	Blog
GDPA	Generalized Dot Product Attention kernels	Blackwell (SM100)	`gdpa/`	PyTorch Blog
...

Requirements

Python >= 3.10
PyTorch >= 2.0
Hopper (SM90) 또는 Blackwell (SM100) 아키텍처를 갖춘 NVIDIA GPU
CUDA >= 12.0
nvidia-cutlass-dsl >= 4.1.0
TLX 패키지의 경우 fbtriton==3.6.1

Installation

CuteDSL GDPA의 경우:

pip install nvidia-cutlass-dsl>=4.1.0 torch einops

TLX 패키지의 경우, 프로젝트별 environment.yml 파일을 참조하거나 일치하는 Triton 빌드를 설치하십시오:

pip install fbtriton==3.6.1

Quick Start

상세 사용법은 개별 프로젝트의 README를 참조하십시오:

Contributors

Meta Ads AI: Jiaqi Xu, Hongtao Yu, Dev Shanker, Junqing (Jacky) Zhou, Han Xu, Jake Siso, Xiaoyi Liu, Huayu Li, Markus Hoehnerbach, Manman Ren, Chao Chen, Hao Yan, Weinan Song

더 많은 커널이 공개됨에 따라 더 많은 기여자가 추가될 예정입니다.

License

Apache License 2.0. 자세한 내용은 LICENSE를 참조하십시오.

Meta Ads 추천 시스템용 고성능 GPU 커널 라이브러리

요약

핵심 포인트