HPE, AI 시대를 위한 차세대 ProLiant 시스템 최초 공개

AI의 급속한 채택이 데이터센터 인프라 공간과 그와 관련된 모든 것(예를 들어 전력 소비 및 비용)에 미치는 영향은 지난 몇 년 동안이나 향후 10년간의 예측에서도 무시할 수 없습니다.

지난달 말 발표된 보고서에서 Bain & Co 분석가들은 2031년까지 AI 인프라에 대한 연간 지출이 1조 5천억 달러에 달할 것으로 예측했습니다. 여기에는 새로운 데이터센터 인프라와 컴퓨팅 용량부터 GPU 업그레이드, 메모리 및 네트워킹 하드웨어까지 모든 것이 포함됩니다. 가장 진보된 AI 데이터센터의 전력 용량이 1기가와트에 육박하는 가운데, 이는 내년에 두 배가 될 수 있으며 10년 말에는 9기가와트를 넘어설 것으로 예상됩니다.

하이퍼스케일러들의 인프라에 대한 엄청난 수요는 계속 증가하고 있으며, Microsoft, Amazon, Google, Oracle, Meta 같은 기업들의 자본 지출은 올해 7,800억 달러에 달할 것으로 예상되는데, 이는 불과 3년 전보다 약 다섯 배 많은 금액입니다. 그들은 이렇게 적었습니다.

OEM(Original Equipment Manufacturers)들은 이를 이해하고 AI라는 거대한 요구를 충족시키기 위한 데이터센터 시스템을 출시하고 있습니다. 가장 최근의 예는 이번 주에 나왔으며, Hewlett Packard Enterprise가 엔터프라이즈 AI 추론 및 에이전트 워크로드(agentic workloads)를 위해 더 높은 컴퓨팅, 메모리 및 네트워킹 기능을 갖춘 ProLiant Gen 13 시스템 최초 모델을 공개했습니다. 이 시스템은 데이터센터 시스템에서 항상 중요했지만 AI 워크로드와 함께 더욱 큰 역할을 할 수 있는 보안, 성능, 신뢰성에 중점을 두고 있습니다.

HPE Compute의 제품 관리 부사장인 John Carter는 The Next Platform에 말하기를, 최초의 13세대 ProLiant 모델 네 가지는 최고 성능의 고밀도 컴퓨팅 및 GPU 워크로드를 목표로 합니다. 여기에는 인프라에서 최고의 성능을 얻으려는 기존 기업이나 에이전트 AI 및 대규모 모델 시뮬레이션(big model simulation)으로 무엇을 할 수 있는지 밀어붙이는 회사들이 포함됩니다.

카터는 "이러한 규모와 성능은 새로운 보안 위험을 가져옵니다."라며 "수많은 시스템들을 관리하는 측면에서 새로운 복잡성을 안겨줍니다. 저희가 이야기하는 것은 기업들이 가장 핵심적인 중요 지적재산(IP)과 데이터를 이러한 종류의 LLM [대규모 언어 모델] 및 시뮬레이션 등에 넣고 있다는 것입니다. 이는 보안이 매우 중요한 문제입니다. 우리가 여러 세대에 걸쳐 가져온 관리 및 보안 기능은 더욱 중요해지는데, 왜냐하면 이것이 인프라의 다른 계층으로 구축될 수 있도록 근본적인 실리콘 레벨 루트 오브 트러스트(root-of-trust)를 마련해주기 때문입니다."라고 말했습니다.

이 점을 고려할 때, HPE가 이번 주에 하는 일은 최신 세대 ProLiant 시스템을 공개하는 것뿐만 아니라 이를 관리하고 보호하는 소프트웨어의 개선 사항도 함께 발표하는 것입니다. 모든 신규 시스템에는 칩 제조사가 지난 7월에 출시한 AMD의 6세대 Epyc 9006 SP7 "Venice" CPU가 사용됩니다.

신규 시스템의 핵심은 ProLiant DL585a입니다. 이 10U 서버는 Nvidia, AMD 또는 Intel의 더블 와이드 GPU 최대 8개와 각각 최대 256코어를 제공하는 최신 AMD Epyc CPU 2개를 탑재할 수 있습니다. 또한 6세대 PCI 연결성도 포함합니다. 카터에 따르면, 이 서버는 2027년 3월에 출시될 예정이며, 추론(inferencing), 검색 증강 생성(RAG: retrieval augmented generation), 에이전트형 AI와 같은 AI 워크로드의 증가하는 토큰 처리량 및 PCIe 요구 사항을 충족하도록 설계되었습니다.

그는 "PCIe 유형 GPU를 사용하는 대부분의 고객들이 우리에게 실제로 말하고 있는 것은 '공간이 부족해지기 훨씬 전에 전력이 부족하니 더 크게 만들어달라'는 것입니다."라고 말했습니다. "저희는 공랭식(air cooling)을 유지하기를 원하므로, 이것이 바로 이 시스템의 포지셔닝입니다. 이는 엔터프라이즈 및 중급 서비스 제공업체와 같은 사람들을 위한 것입니다."

다음 달에 출시될 ProLiant DL525는 단일 소켓 및 공랭식 1U 시스템으로, 고대역폭의 16채널 메모리를 갖춘 단일 256코어 AMD 칩과 DDR5 및 MRDIMM 메모리 모두를 지원합니다. 이 시스템은 AI 추론(inference), EDA, 사기 탐지(fraud detection)와 같은 높은 데이터 처리량 워크로드에 맞춰 설계되었습니다. 표준 19인치 랙에 장착할 수 있습니다.

카터는 “이제 우리는 GPU 중심에서 CPU 중심으로 전환하고 있다”며, “여기서 에이전트 기반(agentic) 측면에 대해 더 많이 이야기할 것입니다. 저희는 비율이 2개의 CPU 대 8개의 GPU에서 이제 1:1에 가깝게 변화할 것으로 예상합니다. 여기서의 기대치는 에이전트 기능이 커질수록 고객들이 워크플로우의 일부로 이러한 종류의 고밀도 CPU 플랫폼을 필요로 하여, 자체 CPU만으로 수행하던 많은 액션들을 오프로드(offload) 할 수 있게 하는 것입니다.”

카터에 따르면, 내년에 출시될 예정인 두 가지 새로운 XD 시스템은 HPE가 과거 Apollo 2000 또는 XD 2000 시리즈로 언급했던 제품의 후속작입니다.

그는 “이 새로운 XD 서버들은 이제 개방형 21인치 ORV3 랙 인프라 파트에 배치됩니다”라고 말합니다. “이것들은 더 넓고 전문화된 랙에 자리 잡습니다. 이러한 시스템들 간에는 효율성을 높이기 위해 공유 전원 및 공유 냉각 기능이 있습니다. 여기서 실제로 얻는 것은 컴퓨팅의 궁극적인 밀도입니다. 같은 데이터 공간에서 매우, 매우 많은 코어들을 구동할 수 있습니다. 이는 현대화된 데이터센터를 구축한 고객들에게 정말 전문적입니다... 즉, 랙에 높은 밀도의 전력 공급과 액체 냉각 또는 고효율 공랭식이 가능합니다.”

XD245(아래)와 XD285 모두 2OU 섀시에 수용되며, XD245는 네 개의 반폭 이중 소켓 노드를 포함하는 반면, XD285는 두 개의 그러한 노드를 갖추고 있습니다. 각각 최대 256코어 AMD CPU, CPU당 16개 메모리 채널, MRDIMM 지원을 실행할 수 있습니다. XD245는 액체 냉각식이며, XD285는 공랭식으로 냉각됩니다.

이러한 시스템 전반에는 iLO 8을 포함하여 향상된 관리 및 보안 소프트웨어가 내장되어 있습니다. 이러한 개선 사항은 특히 AI와 에이전트형 AI(agentic AI)에 있어 조직들에게 가장 중요한 문제인 보안에 초점을 맞추고 있습니다. iLO 8은 시스템 부팅 순간부터 하드웨어의 데이터를 자동으로 암호화하고 복호화하는 HDD 또는 SSD 저장 드라이브를 제공합니다. 또한, 키 프로비저닝 및 안전 삭제와 같이 AI나 에이전트에 의한 영향력이 큰 작업에는 두 명의 승인된 인간 검토자(human approvers)가 필요하도록 다자간 인증(multi-party authorization) 기능도 있습니다. HPE의 주류 컴퓨터 고객 옹호 및 기술 활성화 디렉터인 Chris Bradley는 이러한 기능을 개별 노드에 내장하여 iLO 내에서 규칙처럼 작동하게 했다고 덧붙였습니다.

HPE는 또한 다가오는 양자 컴퓨팅 시대의 데이터를 보호하는 것을 목표로 하는 보안 기능인 포스트-양자 암호(PQC, post-quantum cryptography)를 확장했습니다. AES-256과 같은 현재의 암호화 방식은 지금은 잘 작동하지만, 사이버 범죄자들이 양자 컴퓨팅의 훨씬 더 강력한 기능을 사용할 수 있게 되면 보호되는 데이터가 더욱 취약해질 것입니다. 현재 주요 우려는 '지금 수집하여 나중에 복호화(harvest now, decrypt later)'라고 불리는 것으로, 위협 행위자들이 도난 데이터를 확보하고 양자 컴퓨팅이 이용 가능해지면 이를 복호화할 계획을 세우는 것입니다.

Bradley는 The Next Platform과의 인터뷰에서

그들은 '수십억 달러가 칩, 데이터 센터, 네트워크, 전력 시스템에 투입되는 AI 구축의 전례 없는 속도와 규모는 용량 확보라는 과제에 주목하게 만들었지만, 더 중요한 질문은 그것을 정당화할 만큼 충분한 경제적 가치를 창출할 수 있느냐'고 썼다.