본문으로 건너뛰기
arXiv논문2026. 11. 17. 02:38
CHARMING: 텐서 처리 및 인메모리 컴퓨팅을 통한 병렬 에지 AI 가속화 대표 이미지

CHARMING: 텐서 처리 및 인메모리 컴퓨팅을 통한 병렬 에지 AI 가속화

원문 발행 2026. 11. 13. 14:58원문 언어 영어AI 한국어 번역arXiv cs.AR 원문 보기

요약

CHARMING은 에지 AI의 데이터 이동 한계를 극복하기 위해 설계된 이종 아키텍처입니다. 텐서 처리(AIE)와 인메모리 컴퓨팅을 결합하여 추론 워크로드를 분산하고 실행합니다. 이를 통해 LLM 및 비디오 생성 모델에서 높은 성능 향상과 에너지 효율성 개선을 달성했습니다.

핵심 포인트

  • CHARMING은 AIE 배열과 in-DRAM 유닛을 결합한 이종 아키텍처입니다.
  • 정확도/양자화 인식 분할로 워크로드를 최적 분산합니다.
  • AIE 단독 대비 프리필 최대 23.6%, 디코드 최대 44% 성능 향상을 보였습니다.
  • 에너지-지연 곱(EDP)을 최대 24.7%까지 개선했습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0