Intel은 오늘 아침 Xeon 6 제품군이 더 새롭고 빠른 메모리 지원을 통해 세대 중간 업그레이드를 진행할 것이라고 발표했습니다. 이르면 오는 8월부터 Intel은 특정 Xeon 6 6700P SKU에 대해 DDR5-8000 RDIMM 지원을 활성화할 예정이며, 이는 칩의 현재 한계인 DDR5-6400에서 상향 조정되는 것입니다. 한편, 2027년 1분기에 회사는 Xeon 6900P 프로세서에 2세대 MRDIMM 지원을 추가하여, 더 높은 주파수 지원은 되지 않더라도 새로운 메모리 형식을 사용할 수 있도록 할 계획입니다.

Xeon 6700P, DDR5-8000 RDIMM 지원 예정

Intel의 Srini Krishna가 작성한 블로그 포스트에서, Krishna는 Intel의 놀라운 제품 계획과 그에 대한 근거를 설명했습니다. 요약하자면, Intel은 CPU 메모리 대역폭(Memory Bandwidth)이 현대의 AI 워크로드에서 병목 현상(Bottleneck)이 되고 있다고 믿고 있습니다. 그 결과, Intel은 기존 Xeon 6 칩 SKU 중 일부에서 더 빠른 메모리 지원을 활성화하여, 고객들이 이미 플랫폼에 인증된 가장 빠른 DDR5-6400 RDIMM으로 제공할 수 있는 수준을 넘어 더 많은 메모리 대역폭을 제공할 수 있도록 Xeon 6 서버를 구축하거나 업그레이드할 수 있게 할 것입니다.

실제로 이는 기존 Xeon 6 "Granite Rapids" 칩을 출시와 동시에 유사한 메모리 지원을 제공했던 Intel의 최근 출시 제품인 Xeon 6+ "Clearwater Forest" 칩과 대등한 수준으로 만드는 데 도움이 됩니다. 우리는 올해 Computex에서 DDR5-8000 RDIMM(및 2세대 MRDIMM)을 살펴볼 기회가 있었으며, 메모리 전반이 여전히 공급이 부족한 범용 제품(Commodity)으로 남아있지만, 메모리 벤더들은 이미 업그레이드된 DDR5 메모리 제품을 완성했으며 이제 이를 꽂을 시스템만 필요할 뿐입니다. 원래 우리는 이것들이 단지 Xeon 6+와 AMD의 차기 EPYC "Venice" 프로세서에만 적용될 것으로 예상했으나, Intel은 현재의 Xeon 6 플랫폼에 대해 다른 야망을 가지고 있습니다. 이는 의심할 여지 없이 Granite Rapids가 2027년까지 Diamond Rapids로 교체될 계획이 아니기 때문이기도 합니다.

Intel Xeon 6781P With Paste 1

Intel의 발표 내용을 기술적인 측면에서 조금 더 분석해 보면, 회사는 Granite Rapids에 사용된 고품질 메모리 컨트롤러 (Memory Controller)를 활용하려는 의도로 보입니다. 이 컨트롤러는 어떤 면에서는 처음부터 과하게 설계(overbuilt)된 측면이 있습니다. 첫 번째 칩들이 이번 십 년 초반에 설계되어 JEDEC에서 DDR5-8000 메모리에 대한 사양을 정하기도 전인 2024년에 출시되었음에도 불구하고, Intel은 MRDIMM을 지원하기 위해 더 높은 메모리 속도로 동작할 수 있도록 메모리 컨트롤러에 막대한 투자를 했습니다. 추가적인 DDR5 메모리 칩을 멀티플렉싱 (Multiplexing) 함으로써, MRDIMM은 최대 8800 MT/sec의 속도로 동작하는 DDR5 메모리 버스 (Memory Bus)를 수용할 수 있습니다. 그리고 이러한 연결의 DIMM 측면에서 발생하는 기술적 차이에도 불구하고, 해당 메모리 버스의 CPU 측면에서 이를 가능하게 하는 핵심 기능은 DDR5-8000 속도로 일관되게 동작할 수 있는 고품질 메모리 컨트롤러입니다.

결과적으로, 이제 더 전통적인 RDIMM이 대역폭 (Bandwidth) 측면에서 MRDIMM을 거의 따라잡았기 때문에, Intel은 해당 메모리 컨트롤러를 재사용하여 일반 RDIMM을 유사한 속도로 구동할 수 있을 것으로 보입니다.

Micron DDR5 RDIMM Flyer

종합해 보면, RDIMM을 DDR5-8000 속도로 구동할 수 있게 되면 Intel의 Xeon 6 칩에서 사용할 수 있는 메모리 대역폭의 양이 크게 증가할 것입니다. 현재 인증된 DDR5-6400 제한과 비교했을 때, DDR5-8000은 이론상 25% 더 높은 대역폭을 제공합니다. 그리고 실제로는 Intel이 자체 테스트에서 측정된 메모리 대역폭이 20% 증가했다고 주장하고 있습니다. 물론, 추가적인 메모리 대역폭이 실질적인 성능 이점으로 이어지는 정도는 특수한 경우(corner cases)를 제외하고는 그리 크지 않을 것입니다. Intel의 자체 블로그 게시물에서도 "광범위한 워크로드 (Workloads) 전반에 걸쳐" 3~6%의 성능 향상만을 주장하고 있습니다. 이는 CPU의 이전 메모리 속도 향상 사례들과 일치하는 결과인데, 추가적인 메모리 대역폭은 워크로드에서 메모리 대역폭 자체가 병목 현상 (Bottleneck)인 경우에만 도움이 되기 때문입니다.

아마도 더 흥미로운 점은 Intel이 메모리 지연 시간 (Latency) 또한 약간 개선될 것이라고 주장하고 있다는 것입니다. JEDEC 타이밍 기준으로, DDR5-8000은 14ns의 절대 지연 시간을 가지며, 이는 DDR5-6400의 14.38ns보다 약 3% 낮은 수치입니다. 하지만 Intel은 지연 시간이 6% 개선될 것이라고 주장하고 있는데, 이는 해당 사양을 바탕으로 서류상 예상되는 것보다 약간 더 높은 수치입니다.

| JEDEC DDR5-A 사양 | |||||||
데이터 전송률 (Data Rate, MT/s) | |
CAS 지연 시간 (CAS Latency, cycles) | |
절대 지연 시간 (Absolute Latency, ns) | |
최대 대역폭 (Peak BW, GB/s) | |
||||
DDR5-3200 | A | 3200 | 22 | 22 | 22 | 13.75 | 25.6 |
DDR5-3600 | A | 3600 | 26 | 26 | 26 | 14.44 | 28.8 |
DDR5-4000 | A | 4000 | 28 | 28 | 28 | 14 | 32 |
DDR5-4400 | A | 4400 | 32 | 32 | 32 | 14.55 | 35.2 |
DDR5-4800 | A | 4800 | 34 | 34 | 34 | 14.17 | 38.4 |
DDR5-5200 | A | 5200 | 38 | 38 | 38 | 14.62 | 41.6 |
DDR5-5600 | A | 5600 | 40 | 40 | 40 | 14.29 | 44.8 |
DDR5-6000 | A | 6000 | 42 | 42 | 42 | 14 | 48 |
DDR5-6400 | A | 6400 | 46 | 46 | 46 | 14.38 | 51.2 |
DDR5-6800 | A | 6800 | 48 | 48 | 48 | 14.12 | 54.4 |
DDR5-7200 | A | 7200 | 52 | 52 | 52 | 14.44 | 57.6 |
DDR5-7600 | A | 7600 | 54 | 54 | 54 | 14.21 | 60.8 |
DDR5-8000 | A | 8000 | 56 | 56 | 56 | 14 | 64.0 |
DDR5-8400 | A | 8400 | 60 | 60 | 60 | 14.29 | 67.2 |
DDR5-8800 | A | 8800 | 62 | 62 | 62 | 14.09 | 70.4 |

어쨌든, Intel이 DDR5-8000 메모리 속도 지원을

더 빠른 메모리 속도는 오직 1DPC (1 DIMM Per Channel) 동작 시에만 적용된다는 점도 주목할 만합니다. Intel의 블로그 게시물에는 (메모리 컨트롤러에 훨씬 더 큰 부담을 주는) 2DPC (2 DIMMs Per Channel) 동작에 대한 언급이 없으므로, 아마도 해당 플랫폼의 현재 제한치인 DDR5-5200 수준에 머물 것으로 추정됩니다. 이 경우 1DPC와 2DPC 사이의 격차, 즉 시스템 내 메모리 용량을 최대화하기 위해 2DPC를 사용할 때 발생하는 실제 대역폭 페널티(bandwidth penalty)는 훨씬 더 커질 것입니다.

마지막으로, 이러한 속도 업그레이드가 Intel의 Xeon 6700P (Granite Rapids-SP) 플랫폼에만 예정되어 있다는 점도 흥미롭습니다. Intel의 발표에는 회사의 가장 강력한 Xeon 6900P (Granite Rapids-AP) 플랫폼에 대한 이러한 업그레이드 발표가 포함되어 있지 않습니다. 물론 6900P 사용자들도 빈손으로 물러나지는 않을 것입니다.

Xeon 6900P, 2세대 MRDIMM 지원 확보

Xeon 6700P 플랫폼을 위한 더 빠른 RDIMM 지원 발표와 더불어, 오늘 아침 Intel의 블로그 게시물은 2세대 MRDIMM 지원이 Xeon 6900P 프로세서에도 도입될 것임을 발표하는 데 사용되었습니다. 다만, 해당 DIMM의 더 높은 메모리 속도 지원은 포함되지 않았습니다.

Samsung Gen 2 MRDIMM

오늘 아침의 두 가지 발표 중, 이것이 아마도 더 놀라운 발표일 것입니다. 차세대 서버 플랫폼을 위한 DIMM의 또 다른 큰 발전인 2세대 MRDIMM은 최대 12800 MT/sec의 속도에 도달할 예정이며, 이를 통해 대역폭 면에서 최상급 RDIMM보다 60% 앞선 여유로운 성능을 유지할 것입니다. 하지만 Intel의 Granite Rapids 메모리 컨트롤러는 애초에 8800 MT/sec의 1세대 MRDIMM을 구현하기 위해 이미 한계치 근처에서 작동하고 있기 때문에, Intel은 여기서 실제로 클럭 속도(clockspeeds)를 높일 수 있는 여유(headroom)가 없습니다.

결과적으로 Gen 2 MRDIMM 발표는 Xeon 프로세서의 메모리 대역폭(memory bandwidth)을 개선하는 것에 관한 것이 아니라, 미래의 MRDIMM과의 호환성을 보장하는 것에 관한 것입니다. Xeon 6+ 프로세서가 시작부터 Gen 2 MRDIMM을 지원함에 따라, Intel은 고객이 두 프로세서 모두에 동일한 MRDIMM 공급품을 사용할 수 있도록 보장하려는 것으로 보입니다. 비록 Xeon 6 프로세서의 경우 Gen 2의 더 빠른 메모리 속도를 지원하지는 못하더라도 말입니다. 이와 관련하여, 당사가 Intel에 이번 발표와 고객이 얻을 수 있는 이점에 대해 질문했을 때 회사는 다음과 같이 답변했습니다: "Gen2 MRDIMM 지원을 제공하는 것은 주로 생태계의 진화에 관한 것입니다. 즉, 고대역폭 메모리 옵션의 지속적인 가용성을 보장하고, 벤더 및 모듈 선택의 폭을 넓히며, 산업이 새로운 MRDIMM 세대로 전환됨에 따라 향후 호환 가능한 경로를 제공하는 것입니다. 이점은 추가적인 대역폭보다는 플랫폼의 연속성과 유연성에 있습니다."

한편, Micron의 제품 카탈로그를 빠르게 살펴보면 해당 회사가 이미 1세대 MRDIMM을 단종(end-of-life) 상태로 전환했음을 알 수 있습니다. 따라서 기존 MRDIMM의 생산은 이미 마무리 단계에 접어든 것으로 보입니다. Gen 2 MRDIMM이 (Intel 내부와 외부 모두에서) 훨씬 더 널리 지원될 것임을 고려할 때, 용량 제한을 겪고 있는 메모리 벤더들이 단일 Intel 제품군에서만 사용할 수 있는 DIMM 생산에서 벗어나고자 하는 것은 그리 놀라운 일이 아닙니다.

마치며

AI 붐이 본격화됨에 따라, Intel은 자사의 Xeon 6 프로세서가 현재와 미래에 최대한 빠르고 경쟁력 있게 유지될 수 있도록 모든 역량을 집중하려는 의도로 보입니다. Granite Rapids 실리콘 내의 고성능 메모리 컨트롤러(memory controller)에 의지하여, Intel은 이를 활용해 Xeon 칩에 대해 드문 중간 수명 주기 업그레이드(mid-lifecycle upgrade)를 제공함으로써 더 빠르고 새로운 메모리 표준을 지원하고, 궁극적으로 AI 워크로드 실행에 더욱 적합하도록 만들 것입니다.

행간을 읽어보면, Intel의 이번 발표 시점은 이 업그레이드가 부분적으로 AMD를 견제하기 위한 것이라는 점에 거의 의심의 여지가 없습니다. AMD의 연례 기업/AI 이벤트가 이번 주에 열리며, 그들의 차세대 EPYC "Venice" 칩은 올해 말 약간 후에 출시될 예정입니다. 따라서 Intel이 그 이전에 Xeon 6 제품군을 강화하기 위해 할 수 있는 모든 조치는 Intel에게 유리하게 작용할 것이며, AMD가 동일한 더 빠른 메모리를 지원함으로써 얻을 수 있는 어떠한 우위도 차단할 것입니다. 또한 이는 2027년까지 출하 예정이 아닌 Intel 자체의 차세대 서버 실리콘인 Diamond Rapids와의 격차를 줄이는 데에도 도움이 될 것입니다.

어쨌든, Intel에 따르면 회사는 이르면 이번 8월부터 Xeon 6700P 플랫폼을 위한 DDR5-8000 RDIMM 지원을 시작하고 BIOS 업데이트를 출시할 예정입니다. 한편, Xeon 6900P 소유자들은 내년 1분기에 2세대 MRDIMM 지원이 도입되는 것을 보게 될 것입니다.