샌디스크 CTO, 메모리 경쟁 시대 시작. HBF 내년 출범 준비 완료1

출처 1: https://news.mydrivers.com/1/1125/1125782.htm

5월 29일, Fast Technology는 샌디스크 최고기술책임자(CTO)인 알퍼 이르크바하르가 최근 대규모 AI 모델, 키-값 캐싱, 전문가 하이브리드 모델(MoE)과 같은 기술 개발로 인해 전 세계 AI 경쟁이 점점 더 "메모리 중심적"으로 변모하고 있다고 언급했다고 보도했습니다. 고객들이 장기 구매 계약을 체결하기 위해 경쟁하는 속도는 전례 없는 수준입니다.

알퍼는 인공지능 분야의 여러 최신 트렌드가 메모리를 전례 없이 중요한 위치로 끌어올리고 있다고 지적합니다.

첫째, 대규모 언어 모델은 점점 더 커지고 지능화됨에 따라 실행에 훨씬 더 많은 메모리가 필요합니다. 둘째, OpenAI의 ChatGPT, Google의 Gemini, Anthropic의 Claude와 같은 시스템은 소위 키-값(KV) 캐시에 점점 더 의존하고 있습니다.

키-값(KV) 캐싱은 AI의 "단기 기억"으로 이해할 수 있으며, 모델이 이전 사용자 입력과 대화 내용을 기억하는 데 도움을 줍니다. 컨텍스트 창이 계속 커짐에 따라 KV 캐싱에 필요한 메모리 용량도 급격히 증가하고 있습니다.

한편, 업계에서 점차 주류로 자리 잡고 있는 "하이브리드 전문가 모델"은 여러 개의 작은 전문가 모델을 하나의 큰 모델에 통합하여 특정 요청에 필요한 부분만 호출합니다. 이는 컴퓨팅 성능을 절약하는 장점이 있지만, 메모리 요구량은 증가합니다.

최근 샌디스크는 최대 5년 계약 기간의 5건의 공급 계약을 발표했으며, 이를 통해 최소 420억 달러의 매출이 발생할 것으로 예상됩니다.

알퍼는 과거에는 메모리 칩 제조업체들이 주로 자체 수요 예측에 의존했기 때문에 확장된 생산 능력이 시장에서 최종적으로 흡수될 수 있을지 판단하기 어려웠다고 덧붙였습니다. 이제 고객들은 미래 공급을 확보하기 위해 선제적으로 사전 구매 약정을 하고 장기 구매 계약을 체결합니다.

알퍼는 최근 자본 시장의 관심을 끌고 있는 적층형 플래시 메모리(HBF) 기술의 개발 및 출시 일정도 제시했습니다.

적층형 DRAM을 사용하는 HBM은 마이크론, 삼성, SK하이닉스 등 주요 메모리 제조업체 3곳에서 생산되는 반면, NAND 플래시 기반의 HBF는 더 높은 용량과 낮은 비용을 제공하면서도 HBM에 버금가는 대역폭 성능을 자랑합니다. 따라서 AI 추론 시나리오를 위한 잠재적인 새로운 메모리 솔루션으로 주목받고 있습니다. 현재 샌디스크는 SK하이닉스와 협력하여 HBF 기술 표준을 개발하고 있습니다.

알퍼는 "우리는 차세대 핵심 기술은 HBF(하이브리드 버퍼 플래시)가 될 것이라고 믿습니다. HBF 메모리 칩을 설계 중이며, 올해 말까지 샘플을 출시할 예정이고, 내년에는 컨트롤러를 포함한 본격적인 제품 계획을 발표할 것입니다. " 라고 밝혔습니다.

뉴스 주요 내용 요약
• 메모리 중심의 AI 경쟁: 대규모 AI 모델의 진화, KV 캐싱(단기 기억) 수요 증가, MoE(하이브리드 전문가) 모델의 확산으로 인해 AI 경쟁이 '메모리 중심'으로 변화하고 있습니다.
• 장기 공급 계약 급증: 미래 공급을 선제적으로 확보하려는 고객들이 늘면서, 샌디스크는 최소 420억 달러 규모에 달하는 최대 5년 계약 5건을 체결했습니다.
• 신기술 HBF(하이브리드 버퍼 플래시) 주목: 샌디스크는 SK하이닉스와 협력하여 고용량·저비용이면서 HBM에 버금가는 대역폭을 가진 NAND 기반 HBF 기술 표준을 개발 중입니다.
• HBF 출시 일정: 샌디스크는 현재 HBF 메모리 칩을 설계 중이며, 올해 말까지 샘플을 출시하고 내년에는 컨트롤러를 포함한 본격적인 제품 계획을 발표할 예정입니다.

※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.