RecFlash: 주파수 기반 데이터 매핑을 통한 저장 내 컴퓨팅 기반 고속 추천 시스템
요약
본 논문은 사용자 데이터 증가로 인한 실시간 추천 시스템 처리의 어려움을 해결하기 위해 NAND 플래시 기반 저장 내 컴퓨팅(In-Storage Computing, ISC)을 활용한 고속 추천 추론 가속기인 RecFlash를 제안합니다. 기존 ISC 아키텍처는 추천 작업의 불규칙하고 랜덤한 메모리 액세스 패턴 때문에 내부 대역폭 이용 효율이 낮다는 문제가 있었습니다. RecFlash는 주파수 기반 데이터 매핑 알고리즘을 적용하여 이러한 비효율성을 개선함으로써, 지연 시간과 에너지 소비를 획기적으로 줄이는 성능 향상을 입증했습니다.
핵심 포인트
- 추천 시스템의 실시간 처리 어려움은 사용자 데이터 증가에 기인하며, 저장 내 컴퓨팅(ISC)이 유망한 해결책으로 제시됨.
- 전통적인 NAND 플래시 기반 ISC는 추천 작업의 랜덤 메모리 액세스 패턴 때문에 대역폭 활용 효율성이 낮다는 한계가 있음.
- RecFlash는 주파수 기반 데이터 매핑 알고리즘을 적용하여 이 비효율성을 해결하는 새로운 아키텍처를 제안함.
- 실험 결과, RecFlash는 기존 ISC 대비 지연 시간 최대 81%, 에너지 소비 최대 91.9% 개선 효과를 보임.
추천 시스템은 다양한 개인화된 제안 작업에 널리 사용되고 있지만, 사용자 데이터의 지속적인 증가로 인해 실시간 처리가 어려워지고 있습니다. NAND 플래시 메모리를 기반으로 한 저장 내 컴퓨팅 (In-Storage Computing) 기법은 다른 가속화 접근법 중 유망한 후보 중 하나입니다. 이는 플래시 메모리가 일반적으로 다른 메모리 유형보다 더 큰 메모리 용량을 갖기 때문에, 추천 추론 서비스에서 대량의 사용자 데이터를 효율적으로 처리할 수 있기 때문입니다.
그러나 신경망 응용 프로그램과 달리 데이터가 순차적으로 메모리에서 가져오지는 않으며, 추천 시스템은 불규칙한 랜덤 메모리 액세스 패턴을 보입니다. 따라서 NAND 플래시 어레이에서 페이지 버퍼로 로드된 대부분의 데이터는 사용되지 않아 내부 대역폭의 상당 부분이 비효율적으로 이용되며, 이는 추천 작업의 추론 가속화 성능을 저하시킵니다.
본 논문에서는 NAND 플래시 기반 저장 내 컴퓨팅 (ISC) 을 활용한 데이터 리매핑 알고리즘을 적용한 고속 추천 추론 가속기인 RecFlash 를 제안합니다. 실험 결과에 따르면, 제안된 방법은 기존 NAND 플래시 기반 ISC 아키텍처 대비 지연 시간과 에너지 소비를 각각 최대 81% 와 91.9% 개선하는 것을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기