캠페인 다이어그램: 워크로드의 단계별 진행 과정 시각화
요약
본 글은 현대 워크로드의 자원 활용 및 병목 현상을 단계별로 분석하는 시각화 기법인 캠페인 다이어그램을 제안합니다. 이 다이어그램은 컴퓨팅 처리량, 메모리 대역폭, 트래픽 볼륨, 지연 시간 등을 단일 그림에 통합하여 보여줍니다. 이를 통해 기존 도구들이 놓치기 쉬운 최적화 기회를 발견할 수 있습니다.
핵심 포인트
- 캠페인 다이어그램은 자원 활용 및 병목 현상을 단계별로 시각화합니다.
- 처리량, 메모리 대역폭, 지연 시간 등 여러 요소를 통합 분석 가능합니다.
- 기존 루프라인이나 프로파일러로는 발견하기 어려운 최적화 기회를 제시합니다.
우리는 현대 워크로드에서 자원 활용 및 병목 현상에 대한 단계 수준 분석을 위한 시각화 기법인 캠페인 다이어그램(campaign diagrams)을 제시합니다. 기존 도구들은 상충 관계를 가지고 있습니다. 루프라인(rooflines)은 워크로드를 단일 지점으로 집계하여 시간 개념을 모두 잃어버리는 반면, 프로파일러(profilers)와 트레이스(traces)는 세밀한 이벤트를 노출하지만 성능의 경계를 모호하게 만듭니다. 대신, 캠페인 다이어그램은 컴퓨팅 처리량 및 메모리 대역폭 활용도, 컴퓨팅 및 메모리 트래픽 볼륨, 그리고 지연 시간(latency)을 단일 그림에 묘사합니다. 이들은 분석 모델, 시뮬레이션 또는 프로파일링 데이터로부터 생성될 수 있기 때문에, 캠페인 다이어그램은 이상적인 경계와 커널의 달성된 성능을 모두 포착합니다. 우리는 두 가지 사례 연구에서 이를 입증합니다: 낮은 순위(low-rank) GEMM의 경우, 운영 강도(operational intensity)를 줄이는 것이 종단 간(end-to-end) 성능을 향상시킬 수 있다는 직관에 반하는 결과를 밝혀내며, Mamba의 경우 단계 전반에 걸친 융합(fusion) 및 파이프라이닝(pipelining) 기회를 노출합니다. 두 경우 모두, 우리의 시각화 기법은 루프라인이나 프로파일러만으로는 식별하기 어려운 최적화 기회를 밝혀냅니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기