차세대 가속기를 위한 에이전트 기반 커널 생성 방식의 재고
요약
차세대 가속기를 위한 에이전트 기반 커널 생성 프레임워크인 Zomboss를 제안합니다. 컴파일러의 심볼릭 인터페이스를 활용해 신경망 에이전트가 검증된 설계 공간 내에서 워크로드별 최적의 매핑을 결정하도록 합니다.
핵심 포인트
- 컴파일러와 신경망 에이전트를 결합한 Zomboss 프레임워크 제시
- 머신 시맨틱스를 심볼릭 아티팩트로 컴파일하여 적법성 보장
- Gemmini 및 PLENA 워크로드에서 성능 향상 및 추론 토큰 절감 달성
- 검증된 설계 공간 탐색을 통한 커널 합성 효율성 증대
차세대 가속기(Emerging accelerators)는 종종 성숙한 컴파일러 백엔드(compiler backends)가 부족하며, 이는 아키텍처 문서와 시뮬레이터 피드백으로부터 커널(kernel)을 생성하고 수정하는 신경망 에이전트(neural agents)의 필요성을 불러일으킵니다. 이러한 접근 방식은 모든 워크로드(workload)에 대해 명령어 동작(instruction behavior), 적법성 제약(legality constraints), 동기화 규칙(synchronization rules), 메모리 프로토콜(memory protocols)을 포함한 워크로드 불변적 머신 시맨틱스(workload-invariant machine semantics)를 반복적으로 재구성합니다. 우리는 이러한 시맨틱스가 영구적인 심볼릭 아티팩트(symbolic artifact)로 한 번 컴파일되어야 하며, 신경망 추론(neural reasoning)은 워크로드 의존적인 매핑 결정(workload-dependent mapping decisions)에 집중해야 한다고 주장합니다. 우리는 검증된 컴파일러 경계 내에 신경망 탐색을 배치하는, 커널 생성을 위한 컴파일러 매개 에이전트 프레임워크(compiler-mediated agentic framework)인 Zomboss를 제시합니다. Zomboss는 머신 시맨틱스와 적법성 제약을 재사용 가능한 매핑 인터페이스(mapping interface)로 컴파일한 다음, 신경망 에이전트를 사용하여 검증된 매핑 공간 내에서 워크로드 의존적 결정을 최적화합니다. 20개의 Gemmini 및 36개의 PLENA 워크로드 인스턴스에 걸쳐, Zomboss는 56개 인스턴스 모두에서 올바르게 검증된 커널을 반환했습니다. 컴파일러 기본값(compiler default)과 비교했을 때, Zomboss는 Gemmini에서 $3.34 imes$, PLENA에서 $1.10 imes$의 기하 평균 속도 향상(geometric-mean speedups)을 달성했습니다. 직접적인 에이전트 기반 생성(direct agentic generation)과 비교했을 때, Gemmini에서는 추론 토큰(inference tokens)을 71.2% 줄였고 PLENA에서는 54.2% 줄였습니다. 이러한 결과는 컴파일러가 정의한 심볼릭 인터페이스가 네이티브 커널 합성(native kernel synthesis)을 검증된 설계 공간 탐색(verified design-space exploration)으로 전환한다는 것을 보여줍니다. 즉, 컴파일러 인프라가 적법성과 정확성을 보존하는 동시에, 신경망 가이드(neural guidance)는 더 낮은 탐색 비용과 완전한 커버리지로 워크로드별 성능을 향상시킵니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기