분할 및 정복: MCM GPU의 확장 가능한 성능과 에너지 효율성

Multi-chip-module (MCM) GPU는 여러 칩렛(chiplet)을 공통 패키지에 통합하여 단일 구조를 넘어 컴퓨팅 능력을 확장하는 유망한 경로를 제공합니다. 그러나 이러한 분리화(disaggregation)가 성능 확장성과 에너지 소비에 미치는 영향은 아직 충분히 탐구되지 않았습니다. 설계 공간은 칩렛당 SM 수, 칩렛 개수, 상호 연결 네트워크와 같은 차원 전반에 걸쳐 급격하게 증가합니다. 특히, 추가적인 컴퓨팅 자원이 성능 향상으로 이어지는지를 결정하는 상호 칩렛 네트워크가 매우 중요합니다. 이러한 제한된 이해는 업계와 연구 분야 모두에게 MCM GPU 확장 시의 성능 및 에너지 트레이드오프(trade-offs)에 대한 명확한 지침을 남기지 못하고 있습니다. 본 연구에서는 컴퓨팅 및 메모리 능력을 여러 칩렛에 분산시키는 것이 자원을 집중하는 것보다 더 확장 가능한 대안이 될 수 있는지 조사합니다. 우리는 성능, 에너지, 효율성에 미치는 영향을 정량화하고, 다양한 시스템 크기에서 상호 칩렛 토폴로지(inter-chiplet topology)가 확장성에 어떻게 영향을 미치는지 검토합니다. 우리의 결과는 256 SM을 가진 16 칩렛 Torus 구성이 동일한 컴퓨팅 능력을 가진 최신 MCM 아키텍처 대비 $2.40 imes$의 놀라운 성능 향상을 제공하는 동시에, 에너지 소비를 $4.45 imes$ 감소시킨다는 것을 보여줍니다. 이러한 상당한 이득은 분리화가 1차적인 아키텍처 요소이며 차세대 GPU의 성능 및 에너지 효율성 잠재력을 해제하는 데 중요할 것임을 입증합니다.