지난 1년간 이어진 메모리 가격 급등과 공급 부족 현상은 전 세계 IT 공급망에 지대한 영향을 미쳤습니다. 이는 그래픽 카드나 PC 하드웨어의 사양을 오히려 낮춰야 하는 상황을 초래했을 뿐만 아니라, AI 데이터 센터 서버 운영에도 심각한 어려움을 야기했습니다. 그 결과, 마이크로소프트는 메모리 사용을 최적화할 방법을 모색해야 하는 상황에 이르렀습니다.
PC 업계는 하드웨어 사양을 낮추는 등의 방식으로 메모리 부족 사태를 그럭저럭 넘길 수 있을지 모르지만, AI 컴퓨팅이 요구하는 막대한 메모리 수요를 해결할 마땅한 대안은 찾기 어렵습니다. 최근 인터뷰에서 마이크로소프트의 수석 아키텍트 사미르 라자드냐(Samir Rajadnya)는 '구성 가능한 메모리(composable memory)'라는 새로운 개념을 제시했습니다. 이 방식은 여러 서버의 메모리 자원을 하나로 모아 통합 관리하고, 필요에 따라 동적으로 할당할 수 있도록 합니다.
이 개념 자체는 복잡하지 않으며, 유사한 동적 할당 기술이 이미 다른 여러 분야에서 사용되고 있습니다. 하지만 서버 메모리 분야에서는 아직 흔치 않은 방식입니다. 과거 메모리 공급이 원활했을 때는 클라우드 서비스 제공업체들이 굳이 이러한 솔루션을 도입할 유인이 없었지만, 이제는 모든 세부 요소까지 최적화해야 하는 상황이 되었습니다.
사미르 라자드냐(Samir Rajadnya)는 언론을 통해 널리 알려진 바와 같이, 현재 메모리가 심각하게 부족한 상황이라고 지적합니다. 따라서 메모리를 최대한 효율적으로 사용해야 하며, 작업 부하(워크로드)가 실제로 필요로 하는 곳에 정확히 할당해야 합니다. 만약 메모리가 현재 사용되지 않는 환경에 묶여 있다면, 이는 귀중한 자원을 낭비하는 셈입니다.
그는 '구성 가능한 메모리 아키텍처(composable memory architecture)'가 향후 몇 년간 핵심적인 개발 분야가 될 것이라고 전망합니다. 과거에는 구성 요소들이 CPU나 GPU에 단단히 결합되어 있었고 메모리는 그저 보조적인 요소에 불과했지만, 오늘날 메모리는 독립적이면서도 매우 중요한 자원으로 인식되고 있습니다.
그는 다양한 워크로드에 걸쳐 메모리를 동적으로 할당하는 구체적인 메커니즘을 명시하지는 않았으나, 이러한 모델의 효율성은 CPU와 XPU(가속 처리 장치) 간의 고속 연결성에 달려 있다고 언급했습니다. 여기서 핵심은 상호 연결(인터커넥트) 기술이며, 특히 광 인터커넥트(optical interconnects)가 결정적인 역할을 할 것으로 보입니다.
마이크로소프트는 이러한 동적 메모리 할당 방식이 주요 기술 기업들이 메모리 부족과 가격 상승 문제에 대응하기 위해 활용하는 전략 중 하나라고 언급했습니다. 메타(Meta)와 같은 다른 기업들은 또 다른 최적화 방안을 모색해 왔는데, 예를 들어 퇴역 예정인 DDR4 메모리 모듈을 CXL 인터페이스를 통해 연결하여 재활용하는 방식이 있습니다. 이러한 구성은 더 발전된 DDR5 메모리만큼의 성능을 내지는 못할 수 있지만, 용량과 비용 측면에서 확실한 장점이 있어 고성능 읽기/쓰기 작업이 요구되지 않는 사용 사례에 매우 적합합니다.
결국 메모리 가격이 높은 수준을 유지하는 한, 주요 제조사들은 다양한 최적화 기술을 도입할 수밖에 없습니다. 이는 결과적으로 메모리에 대한 전반적인 수요를 줄이는 효과를 가져오며, 수급 균형을 회복하는 데 기여할 뿐만 아니라 가격 하락을 앞당기는 요인이 될 수도 있습니다.
하드웨어에 미치고 유저들을 사랑하는 남자, 퀘이사존 최고운영자 지름입니다.
본 뉴스는 해외 매체의 단순 번역본으로 퀘이사존의 주관적인 견해가 포함되지 않았음을 밝혀드립니다.
여러분들이 남겨 주신 소중한 댓글.. 진심으로 감사드립니다.
원문 출처 mydrivers