DRAM이 필요할까요? 우리는 광섬유를 가지고 있습니다

요약

본 논문은 생성형 AI의 메모리 요구 증가에 대응하여, 광학 섬유를 활용한 새로운 아키텍처인 Fiber Memory를 제안합니다. 이 시스템은 LLM 가중치와 같은 불변 데이터를 위한 지연 라인 메모리로 기능하며, 기존 HBM3e 대비 에너지 효율성을 크게 개선할 수 있음을 입증했습니다.

핵심 포인트

• 광학 섬유 기반의 Fiber Memory 아키텍처를 제안함.
• LLM 가중치 스토리지를 위한 능동적 지연 라인 메모리로 활용 가능.
• 기존 HBM3e 대비 가중치 전달 에너지를 70% 이상 절감할 수 있음.
• MCFs, CPO 등 최신 광학 기술을 통합하여 구현함.