AMD의 MEXT 인수는 시장이 인식하는 것보다 더 중요합니다. 이것이 메모리 병목 현상을 해결하는 방법입니다.

Advanced Micro Devices(AMD)의 최근 상승은 AI 추론(inference)으로 인한 CPU 수요에 힘입어 이루어졌습니다. 시장은 이미 AMD 주가가 1조 달러 가치에 도달하기를 기다리고 있었지만, 또 다른 변수가 이제 전망에 새로운 차원을 더했습니다. 6월 15일, AMD는 효율적인 자원 활용을 통해 메모리 병목 현상(memory bottleneck)을 해결하는 데 도움을 줄 메모리 기술 기업인 MEXT의 인수를 발표했습니다.

MEXT가 무엇을 하는지 이해하기 위해, 먼저 AI 워크로드(workloads)에서 메모리가 어떻게 사용되는지 이해해 봅시다. 일반적으로 메모리에는 플래시(flash)와 DRAM이라는 두 가지 유형이 있습니다. 플래시는 방대한 양의 데이터가 거주하는 저렴한 저장 장치입니다. DRAM은 빠르고 비싸며, 현재 처리 중인 데이터를 저장하는 데에만 사용됩니다. MEXT는 이 두 기술 중 하나를 선택할 때 발생하는 근본적인 트레이드오프(trade-off)를 연결합니다. 그 방법은 다음과 같습니다.

Barchart의 추가 뉴스

어떤 프로세싱 유닛(processing unit)이 데이터를 요청할 때, 플래시 메모리에서 DRAM으로 데이터를 이동시키는 데 많은 시간이 걸릴 수 있습니다. 현대의 AI 워크로드에서는 GPU가 유휴 상태(idle)로 머무는 아주 짧은 시간조차 장기적으로 데이터 센터에 막대한 비용을 초래할 수 있습니다. MEXT의 예측 기술(predictive tech)은 향후 메모리 액세스 패턴(access patterns)을 예측하며, GPU나 CPU가 특정 데이터를 요청하기 전에 플래시에서 DRAM으로 데이터를 이동시킵니다. 데이터를 사용하라는 명령이 도착하면, 데이터는 이미 DRAM에서 사용 가능한 상태가 됩니다. GPU의 관점에서는 데이터가 항상 사용 가능했던 것처럼 느껴지며, 따라서 지능적인 프리페칭(pre-fetching)에 의해 완벽하게 가려진 낮은 지연 시간(low latency)을 경험하게 됩니다.

이로 인한 직접적인 결과 중 일부에는 인프라 비용 절감이 포함됩니다. 결과적으로 더 적은 DRAM이 사용되고, 더 저렴한 플래시 메모리가 사실상 확장 장치로서의 역할만 수행하게 되기 때문입니다. 사용 가능한 메모리 용량, 즉 GPU가 항상 빠른 액세스를 필요로 하는 데이터의 용량 또한 증가합니다. AMD에게 있어, 특히 메모리가 AI 개발의 심각한 제약 요인인 시기에 이 기술에 조기에 진입하는 것은 미래를 위해 좋은 징조입니다.

AMD 주식에 대하여

Advanced Micro Devices는 고성능 CPU, GPU 및 어댑티브 컴퓨팅 (adaptive computing) 솔루션을 설계하는 반도체 기업입니다. 제품 포트폴리오에는 Ryzen 및 EPYC 프로세서, Radeon 그래픽 카드, 그리고 AI 및 고성능 컴퓨팅 (HPC)을 위한 Instinct 가속기 (accelerators)가 포함됩니다. 1969년에 설립된 이 기업은 캘리포니아주 산타클라라에 본사를 두고 있으며, CEO Lisa Su가 이끌고 있습니다.