CPU 전용 컴퓨팅의 중요성: 최신 HPC 클라우드 인스턴스 분석

지난 30년간 HPC(고성능 컴퓨팅)가 클라우드로 이동했지만, 여전히 많은 시뮬레이션 및 모델링 애플리케이션 코드는 CPU 환경에 최적화되어 있습니다. 따라서 주요 클라우드 제공업체들은 고성능의 CPU 전용 인스턴스를 강화하는 데 집중하고 있으며, 이는 온프레미스(on-premises) 구매 대신 임대(renting)를 선호하는 HPC 센터들에게 큰 이점을 제공합니다.

최근 AWS는 AMD Turin Epyc 9005 시리즈 프로세서를 기반으로 최신 HPC8a 인스턴스를 출시했습니다. Turin CPU는 Zen 5 코어와 L3 캐시가 절반인 Zen 5c 코어로 구성되며, 특히 HPC8a에 사용된 커스텀 Epyc 9R15 칩은 이전 세대(HPC6a/7a)의 Milan 또는 Genoa 칩과 마찬가지로 맞춤형 프로세서 설계를 따릅니다.

CPU 아키텍처 및 성능 분석:

1. SMT 비활성화의 중요성: HPC 워크로드, 특히 Message Passing Interface (MPI)를 사용하는 경우, 캐시 지연 시간(cache latencies)에 매우 민감합니다. 따라서 대부분의 HPC 인스턴스는 SMT를 비활성화하여 코어당 하나의 스레드만 사용하며, 이는 캐시 동작을 더 예측 가능하게 만들어 성능 저하를 막는 핵심 요소입니다.

2. 메모리 대역폭의 중요성: HPC8a가 이전 세대(HPC7a/Genoa) 대비 가장 큰 이점을 얻는 부분은 메모리 컨트롤러 수 증가와 DDR5 도입에서 나옵니다. Epyc 9R15 칩은 기존 Genoa 칩이 가졌던 8개보다 많은 다수의 메모리 컨트롤러를 갖추고 있습니다. 그 결과, 메모리 대역폭에 의해 제한되는 워크로드(memory bandwidth constrained workloads)의 경우, 동일한 vCPU 수에서도 최대 40% 더 높은 성능을 달성할 수 있습니다.

3. 이론적 피크 성능 함정: HPC8a와 HPC7a 모두 기본 클럭 속도(2.6 GHz)에서의 이론적 FP64 최고 성능은 거의 동일합니다. 따라서 단순히 이 표만 보고 구매 결정을 내린다면, 메모리 대역폭 개선 효과를 간과하고 이전 세대 인스턴스를 선택할 위험이 있습니다. 실제 HPC 센터 운영자들은 이러한 '가격/성능(price/performance)' 측면에서 접근해야 합니다.

유연한 자원 구성의 진화:

AWS는 HPC7g (Graviton3E)와 HPC7a (Genoa) 인스턴스를 출시하면서 중요한 변화를 주었습니다. 이전에는 최대 코어 수에 고정된 단일 인스턴스가 많았지만, 이제는 메모리 용량(예: 128 GB)은 고정하되, 고객이 필요에 따라 코어 수를 줄여서 다양한 '메모리 대역폭/코어 비율'로 서버 노드를 구성할 수 있게 되었습니다. 이러한 유연성은 온프레미스 클러스터 환경에서 사용자가 실제로 자원을 할당하는 방식과 매우 유사하여 높은 만족도를 제공합니다.

결론적으로, 최신 HPC 인스턴스를 평가할 때는 최고 코어 개수나 이론적 피크 성능보다는 메모리 대역폭 개선 여부와 사용자 정의가 가능한 유연한 자원 구성 옵션에 초점을 맞추는 것이 가장 중요합니다.