새로운 AI 가속기를 학습하는 다중 에이전트 커널 최적화 루프의 사례 연구

요약

본 사례 연구는 새로운 AI 가속기(FuriosaAI RNGD NPU)를 위한 커널 최적화 과정을 다룹니다. 다중 에이전트 시스템을 활용하여 DSL 문서 작성, 마이크로벤치마크 측정 등 목표 지식을 구축하고 반복적으로 설계를 개선했습니다. 그 결과, Gemma-4-12B 디코드 커널은 공식 기준선 대비 9.293배의 기하 평균 속도 향상을 달성했습니다.

핵심 포인트

• 다중 에이전트 루프를 활용하여 신규 가속기용 커널을 최적화하는 방법론 제시
• DSL 문서, 마이크로벤치마크 등 목표 지식을 구축하고 검증하는 과정 포함
• 역할 기반 검색과 저렴한 검사(cheap checks)를 통해 설계의 정확도를 높임
• 최종 커널은 공식 기준선 대비 9.293배의 기하 평균 속도 향상을 달성함