칩, 스케일업, 스케일아웃 도메인을 아우르는 이종 시스템 설계를 위한 Agentic AI

요약

본 논문은 LLM 학습, 서빙, HPC 워크로드 등 다양한 AI/HPC 환경에 최적화된 이종 시스템 설계를 위한 Agentic AI 프레임워크인 ArchAgent를 제안합니다. ArchAgent는 계층적 다중 에이전트 구조로, 복잡한 시스템 설계 문제를 칩, 스케일업, 스케일아웃 하위 문제로 분해하여 전문 에이전트들이 처리하게 합니다.

핵심 포인트

• ArchAgent는 LLM 기반 플래너가 시스템 설계를 다중 에이전트로 분해하는 프레임워크입니다.
• 결정론적 분석 평가기를 사용하여 성능 추정의 신뢰성을 높였습니다.
• 혼합 AI+HPC 워크로드에서 균질 GPU 대비 1.93배의 속도 향상을 달성했습니다.
• 기존 방식(hill climbing) 대비 적은 평가 횟수로 높은 효율을 입증했습니다.