대규모 언어 모델 (LLM) 워크로드는 컴퓨팅 및 메모리 용량을 확장하기 위한 경로로서 멀티 파티션 (multi-partition) GPU 사용을 촉진하지만, 이들의 비균등 메모리 액세스 (non-uniform memory access, NUMA) 특성과 파티션 간 통신은 경합을 증폭시키고 지역성 (locality)을 저하시켜 최적화되지 않은 커널 지연 시간 (kernel latency)을 초래할 수 있습니다. 이를 해결하기 위해, 우리는 최첨단 서빙 엔진의 가중치 투영 (weight projection), 전문가 혼합 (mixture-of-experts, MoE), 그리고 어텐션 (attention) 변형을 아우르는 성능 핵심 LLM 커널 구현을 분석하여 멀티 파티션 GPU에서의 데이터 액세스 패턴 특성을 제시합니다. 먼저, 워크그룹 (workgroup) 수준의 데이터 액세스 및 공유 동작을 도출하기 위한 메모리 트레이스 분석 방법론을 도입하고, 사이클 수준 시뮬레이터 (cycle-level simulator)를 사용하여 지연 시간에 미치는 지역성의 영향을 평가합니다. 이러한 도구들을 사용하여, 우리는 LLM 커널 피연산자 (operands)를 세 가지 워크그룹 간 공유 패턴 (전역 (global), 부분 (partial), 또는 개인 (private))으로 분류하며, 단순한 워크그룹별 고정 (per-workgroup pinning)부터 서브그룹 인지 공동 스케줄링 (subgroup-aware co-scheduling)에 이르기까지 카테고리에 따라 필요한 최적화 전략이 다름을 보여줍니다. 우리의 연구 결과는 멀티 파티션 GPU에서 배치 인지 (placement-aware) 커널 프로그래밍과 작업 및 데이터 지역성을 위한 더 스마트한 아키텍처 지원의 필요성을 강조합니다.