Intel Xeon 6+ ‘Clearwater Forest’, 최대 288코어와 576MB L3 캐시를 탑재한 18A 공정의 데이터 센터용

Xeon 6+ CPU specs

Intel은 이제 Intel 18A의 힘을 활용하는 Xeon 6+와 함께 데이터 센터 시장으로 복귀합니다. 올해 초 워크스테이션용 Xeon 600 칩을 공개한 데 이어, Intel은 이전에 Clearwater Forest로 알려졌던 E-core 전용 설계인 Xeon 6+를 통해 다시 데이터 센터로 눈을 돌리고 있습니다. 플래그십 모델인 Xeon 6990E+는 컴퓨팅 밀도(compute density)를 위해 설계되었으며, 576MB의 L3 캐시와 함께 288개의 Darkmont 코어를 탑재하고 있습니다. 또한 듀얼 소켓(dual-socket) 시스템을 지원하여 코어 수를 최대 576개까지 확장할 수 있습니다. Intel은 6990E+가 AMD의 192코어 Epyc 9965와 비교했을 때 스레드당 평균 30%의 성능 향상을 제공하며, 전력 효율성(power efficiency) 또한 최대 30% 더 뛰어나다고 주장합니다.

이번 출시 전까지 우리는 작년에 Intel이 공개한 전체 아키텍처 심층 분석(architectural deep dive)을 포함하여 Clearwater Forest에 대해 많은 이야기를 들어왔습니다. 상기시켜 드리자면, Xeon 6+는 지난 여러 세대에 걸친 Intel의 프로세서 설계에 대한 분리형(disaggregated) 접근 방식의 정점으로, 노드(nodes)와 패키징 기술을 혼합하여 이토록 높은 코어 밀도를 달성했습니다. 실리콘 스택(silicon stack)의 상단에는 Intel 18A 공정으로 제작된 12개의 CPU 칩릿(chiplets)이 있으며, 각 칩릿에는 하이퍼스레딩(Hyper-Threading)이 없는 24개의 Darkmont E-core가 탑재되어 있습니다. 이들은 Intel 3 공정으로 제작되어 L3 캐시와 메모리를 보유하는 3개의 베이스 타일(base tiles) 위에 놓여 있습니다. 이 스택 사이에는 Intel 7 공정으로 제작된 2개의 I/O 칩릿이 샌드위치처럼 끼워져 있습니다. 이 칩릿들을 하나로 묶어주는 것은 기판(substrate)에 직접 구축된 실리콘 브리지인 12개의 EMIB 2.5D 타일입니다.

칩 외부적으로, Xeon 6+ 칩은 LGA 4710 소켓(Sierra Forest와 동일)을 사용하는 기존 Xeon 6 플랫폼과 함께 작동합니다. Intel은 싱글 및 듀얼 소켓 시스템을 모두 지원하며, 최대 8000MT/s로 동작하는 최대 12채널의 DDR5와 96레인의 PCIe 5.0(64레인의 CXL)을 지원합니다. 해당 플랫폼 사양은 싱글 소켓 시스템 기준입니다.

이 칩들은 Intel QAT (QuickAssist Technology), DLB (Dynamic Load Balancer), DSA (Data Streaming Accelerator), 그리고 IAA (In-memory Analytics Accelerator)를 포함하여 약어로 명명된 다양한 하드웨어 가속기(hardware accelerators)를 탑재하고 있습니다. 플래그십 모델인 6990E+에는 총 16개의 가속기가 포함되어 있으며, 아키텍처에 포함된 각 유형별로 4개씩 들어있습니다. 또한 Intel은 SHA-512, SM3, SM4 암호화 알고리즘을 가속하기 위한 명령어 세트를 통해 칩의 기능을 확장했으며, 애플리케이션 격리를 위한 Intel SGX와 VM 격리를 위한 Intel TDX를 통해 더욱 강력한 기밀 컴퓨팅 (confidential computing) 기능을 제공합니다.

Intel Xeon 6+ details.

Xeon 6+ CPU의 새로운 기능은 Intel Application Energy Telemetry, 즉 AET입니다. 이는 하드웨어 기반의 텔레메트리 (telemetry) 도구로, Intel은 이를 통해 "워크로드, 마이크로서비스 (microservices), 컨테이너 (containers), VM, 애플리케이션, 그리고 원하는 경우 개별 소프트웨어 스레드 수준까지" 에너지 사용량에 대한 통찰을 제공할 수 있다고 밝혔습니다. Xeon 6+ CPU는 AET를 지원하는 최초의 제품이며, Intel은 향후 데이터 센터 제공업체를 주요 대상으로 하는 Xeon 프로세서에서 이 기능이 계속 제공될 것이라고 말했습니다.

Xeon 6+와 함께 Intel이 오랫동안 기다려온 AVX10.2를 볼 수 있기를 기대하는 목소리도 있었으나, 실제로는 그렇지 않습니다. 이 CPU들은 어떤 형태의 AVX10도 지원하지 않으며, 심지어 AVX-512조차 지원하지 않습니다. Intel 대변인은 Tom’s Hardware를 통해 이 제품들이 AVX2가 최대 사양임을 확인했습니다.

Intel Xeon 6+ ‘Clearwater Forest’ 사양

Intel은 총 4개의 Xeon 6+ 설계와 6개의 SKU를 보유하고 있습니다. 라인업 중 상위 2개 모델은 전력 제한 (power-limited) 구성으로 출시되어 베이스 클럭과 올코어 터보 (all-core turbo) 속도가 더 낮지만, 그 외의 사양은 동일합니다.

Tom's Hardware의 최고의 뉴스 및 심층 리뷰를 편지함으로 직접 받아보세요.

| Row 0 - Cell 0 |
| |
| |
| |
| |
| |
| 288 / 288 | 2.2 / 3.2 | 2.8 | 576MB | 450W |
| Row 2 - Cell 0 | 288 / 288 | 1.7 / 3.2 | 2.4 | 576MB | 330W |
| 264 / 264 | 2.1 / 3.2 | 2.7 | 528MB | 400W |
| ... |
개별 프로세서에 대해 알아보기 전에, 전체 라인업에 공통으로 적용되는 몇 가지 사양이 있습니다:

최대 DDR5-8000 지원 12채널 메모리 (12-channel memory)
싱글 또는 듀얼 소켓 호환성 (Single- or dual-socket compatibility)
96개의 PCIe 5.0 레인, 64개의 CXL 2.0 레인, 6개의 UPI 2.0 레인
CPU당 1024개의 Intel TDX 키
최대 16개의 가속기 (Intel QAT, DLB, DSA, IAA 각각 4개씩)
Intel AET

지난 세대인 Sierra Forest 칩과 비교했을 때, 즉각적으로 눈에 띄는 사양은 TDP (열 설계 전력)입니다. Sierra Forest의 경우, Intel은 Xeon 6780E에서 최대 330W를 기록했고 6710E에서는 최저 205W까지 내려갔습니다. 이제는 300W가 하한선이고 450W가 상한선이 되어, AMD EPYC 라인업의 최상위 TDP와 더 밀접하게 일치하게 되었습니다. 하지만 평소와 마찬가지로, TDP는 실제 전력 소비량을 암시할 뿐이며, 이는 수많은 요인에 따라 크게 달라질 수 있습니다.

예상대로 코어 수(Core counts)가 대폭 증가했으며, L3 캐시의 양도 함께 늘어났습니다. 6990E+는 6780E보다 5배 이상의 L3 캐시 용량을 보유하고 있습니다. 6780E와 마찬가지로 144개의 코어를 가진 6960E+조차도 4배 더 많은 L3 캐시를 탑재하고 있습니다. 그러나 L2 캐시는 변경되지 않았습니다. Intel은 4개의 코어로 구성된 클러스터당 4MB의 L2 캐시를 사용합니다. 기술적으로 해당 캐시는 클러스터 내의 코어들 간에 공유되지만, 코어당 1MB의 L2 캐시가 있다고 생각하면 됩니다.

Intel Xeon 6+ ‘Clearwater Forest’ 성능 및 벤치마크 주장

Intel은 새로운 플래그십인 Xeon 6990E+를 지난 세대 Intel 칩 및 AMD의 현재 EPYC 제품군과 비교하여 Xeon 6+에 대한 다양한 벤치마크를 공유했습니다. 전반적으로 Intel은 Xeon 6780E 대비 2.26배의 세대 간 향상을 이루었으며, AMD EPYC 9965 대비 스레드당 성능이 30% 더 높다고 주장합니다.

세대 간 향상을 고려하면, 이토록 막대한 성능 향상을 보는 것은 놀라운 일이 아닙니다. 결국 Intel은 Xeon 6990E+를 스레드 수는 절반이며 TDP (열 설계 전력)는 120W나 낮은 CPU와 비교하고 있기 때문입니다. 하지만 Intel이 최신 Xeon 6+ 칩과 비교 대상으로 삼은 Xeon 6780E는 이전 세대 Sierra Forest 라인업의 플래그십 모델입니다. Intel은 평균 2.26배의 향상을 주장하며, Intel의 내부 벤치마크에서 볼 수 있듯이 Xeon 6990E+는 Intel이 테스트한 모든 워크로드(Workload)에서 Xeon 6780E보다 두 배 이상의 성능을 제공했습니다.

Intel Xeon 6+ performance claims.

하지만 여기서 더 중요한 지표는 와트당 성능(Performance per watt)입니다. Xeon 6990E+는 훨씬 높은 TDP와 더 밀도 높은 연산 능력을 갖추고 있지만, Intel은 여전히 평균 55%의 효율성 향상을 주장하며, 이는 Stream Triad 메모리 대역폭(Memory bandwidth) 벤치마크에서의 30% 향상부터 Linpack에서의 79% 향상까지의 범위를 포함합니다. 이러한 벤치마크를 위해 Intel은 듀얼 소켓(Dual-socket) 및 싱글 소켓(Single-socket) 시스템을 혼합하여 사용하였으며, 특정 테스트의 구성에 맞춰 구성했습니다 (즉, 혼합하여 사용하는 대신 두 개의 듀얼 소켓 시스템 또는 두 개의 싱글 소켓 시스템을 사용함). 정확한 구성 세부 사항은 이 기사 끝에 있는 전체 슬라이드 덱에서 확인할 수 있습니다.

지난 여러 세대에 걸쳐 데이터 센터 시장에서 Team Red(AMD)가 점유율을 확대해 온 점을 고려하면, 경쟁력 있는 성능이 아마도 더 중요할 것입니다. Intel은 Xeon 6990E+가 EPYC 9965와 비교했을 때 평균적으로 스레드당 성능이 30% 더 높으며, 와트당 평균 스레드 성능 또한 30% 더 높다고 밝히고 있습니다. 스레드당 성능(Per-thread performance)은 분명히 중요하지만, Intel은 다이(Die) 전체에 걸친 평균 성능을 AMD의 제품과 비교한 데이터는 제시하지 않았습니다.

이는 아마도 전체 스레드 수 때문일 것입니다. Intel은 Xeon 6990E+에 EPYC 9965의 192코어와 비교되는 288코어를 탑재했지만, AMD는 동시 다중 스레딩 (Simultaneous Multithreading, SMT)을 사용하는 반면 Intel은 그렇지 않습니다. 스레드당 우위가 일반적으로 전체 성능의 우위로 직접 이어지지는 않습니다. 이는 실행 중인 워크로드 (Workload)에 따라 중요할 수도 있는 하나의 지표일 뿐입니다. Intel의 벤치마크 (Benchmark)에 따르면, Xeon 6+는 정수 (Integer) 및 부동 소수점 (Floating-point) 처리량에서 약 30%의 우위를 점하며, 효율성 측면에서는 약 38%의 개선을 보여줍니다.

Intel은 구체적인 수치를 스레드당 성능 (Performance-per-thread) 지표로 제한했지만, 경쟁사 대비 전반적인 효율성에 대한 작은 힌트를 제공했습니다. CPU 사용률이 40%일 때, Intel은 6990E+가 EPYC 9965보다 최대 30% 더 효율적이라고 주장합니다. 이 차트가 정확하고 왜곡된 시각화가 아니라고 가정한다면 (그럴 가능성도 있습니다), 사용률이 증가함에 따라 효율성 차이가 훨씬 더 좁혀지는 것을 확인할 수 있습니다.

Intel은 점점 중요한 비교 포인트가 되고 있는 ARM 명령어 세트 (Instruction set) 기반 설계와 Xeon 6+를 비교한 벤치마크를 보유하고 있지 않습니다. 바로 최근, Nvidia의 Vera CPU에 대한 첫 번째 벤치마크 결과가 유출된 것을 보았습니다. 하지만 Intel은 “[Xeon 6+]가 ARM 기반 옵션들과 비교했을 때 매우 유리하다”고 생각한다고 밝혔습니다.