Alkaid: 초저지연 하드웨어 커널을 위한 컴파일러 프레임워크

마이크로초(sub-microsecond) 수준에서 작동하는 초저지연 머신러닝 및 데이터 처리 파이프라인은 세밀한 비트폭 제어, 산술 최적화, 그리고 빠른 하드웨어 성능 추정치를 요구하는 정적 데이터 흐름 커널을 포함하는 경우가 많습니다. 본 논문에서는 Alkaid를 소개합니다. Alkaid는 초저지연 데이터 흐름 커널을 플랫폼 독립적인 Register Transfer Level (RTL) 또는 High-Level Synthesis (HLS)-준비 코드로 몇 초 만에 변환하는 무료 오픈 소스 도메인 특화 컴파일러입니다. Alkaid는 기존의 exttt{hls4ml}과 같은 ML-to-hardware 흐름으로 다루어지는 초저지연 ML 파이프라인을 목표로 하며, 주변의 전처리(pre-processing), 후처리(post-processing) 및 제어 로직도 지원합니다. 핵심적으로 Alkaid는 산술 중심의 중간 표현(Intermediate Representation), 즉 Alkaid Low-level IR (ALIR)을 사용하여 고정 소수점 의미론(fixed-point semantics), 이종 비트폭(heterogeneous bitwidths), 그리고 최적화 및 코드 생성을 위한 연산 수준 구조를 보존합니다. 또한, Alkaid는 포괄적인 하드웨어 인식 최적화 패스와 합성 루프 없이 신속한 설계 공간 탐색을 위한 해석 가능한 화이트박스 분석 성능 모델을 제공합니다. MLP, GNN, 트랜스포머를 포함하는 대표적인 ML 워크로드를 통해, Alkaid는 비트 정확히 동등한(bit-exact equivalent) 디자인에 대해 기존 최고 흐름 대비 20~30% 낮은 LUT 사용률을 달성했으며, 일부 사례에서는 최대 40% 낮은 지연 시간을 기록했습니다. 일반적인 신경망 외에도, Alkaid는 부스팅 결정 트리(boosted decision trees)를 합성하는 최신 방법론과 비교할 만한 성능을 달성하며, 정렬 네트워크(sorting networks) 및 히스토그램 같은 비-ML 커널의 구현 및 통합도 가능하게 합니다.