이종 하드웨어 SoC에서 AI 추론 워크로드를 위한 공동 하드웨어 구성 선택 및 매핑의 에이전트 기반 설계 공간 탐색
요약
본 논문은 이종 SoC에서 AI 추론 워크로드를 효율적으로 배포하기 위한 설계 공간 탐색(DSE) 방법을 제안합니다. 기존의 블랙박스 최적화 방식의 한계를 극복하고자, 시스템 실행 트레이스를 활용하는 에이전트 기반 DSE 흐름인 TraceDSE를 개발했습니다. 이 방법은 LLM 제안자와 트레이스 분석 비평가 에이전트 간의 반복적인 상호작용을 통해 깊은 통찰력을 제공하며, 기존 최적화 기법 대비 월등한 성능과 효율성을 입증했습니다.
핵심 포인트
- TraceDSE는 이종 SoC AI 추론 워크로드를 위한 새로운 DSE 프레임워크입니다.
- LLM 제안자/비평가 에이전트 구조를 통해 풍부한 트레이스 기반 피드백을 활용합니다.
- 기존 BBO 대비 파레토 프런티어 초부피 개선 및 하드웨어 평가 횟수 대폭 감소 효과를 보였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기