NORmal: 3D 강유전체 NOR 플래시를 메인 메모리로 구축하기 -- 공동 제작된 BEOL 배열부터 스마트폰의 200B급 다중 에이전트

스마트폰 에이전트는 점차 팀 단위로 작동하며, 이 과정에서 대규모 플래너(planner)가 장시간 세션에 걸쳐 병렬 워커들을 지휘합니다. 이러한 팀을 기기 자체에서 구동하려면 200B급 모델과 스마트폰 DRAM 용량을 훨씬 초과하는 컨텍스트가 필요하지만, 기존의 메모리 계층들은 플래시를 단순한 저장소로 취급합니다. UFS는 토큰당 가중치 스트리밍(weight streaming)에 병목 현상을 일으키며, 모바일 고대역폭 플래시(HBF)는 재설계된 SoC가 필요하고 지속적인 KV 쓰기 작업을 처리할 수 없습니다. 우리는 비휘발성 메모리가 그 접근 지연 시간(access latency)이 DRAM의 타이밍 창(timing window)에 맞을 경우에만 수정되지 않은 LPDDR6 버스에 일반 랭크(plain rank)로 참여할 수 있음을 보여주었습니다. 이는 NAND 계층 중 어느 것도 충족하지 못하는 조건입니다.

우리는 3D 강유전체 NOR 플래시를 위한 최초의 메인 메모리 아키텍처인 NORmal을 제시합니다. 우리는 밀집된 3비트 MLC(Multi-Level Cell)와 서브-7.5ns 감지 시간을 가진 빠르고 높은 내구도의 현장 쓰기 가능 SLC(Single-Level Cell)가 공동 통합된 백엔드 오브 라인(BEOL) 3D FeNOR 배열을 제작하고 실험적으로 특성화했습니다. NORmal은 이러한 공동 제작된 배열들을 수정되지 않은 LPDDR6 인터페이스 상에서 언더-어레이 DRAM 에뮬레이션 브리지, 제로 사이클 가중치 스위즐링(weight swizzling)을 이용한 교차 뱅크 읽기, 그리고 게시형 SLC 쓰기를 통해 바이트 주소 지정 가능하고 결정론적 타이밍의 로드/스토어 랭크로 변환합니다. 이 랭크와 DRAM 전반에 걸쳐 NORmal은 에이전트 상태를 '뜨거운 정도(hotness)'가 아닌 가변성(mutability)과 수명 주기(lifetime)에 따라 배치하며, 200B급 모델과 영속적인 플래너 컨텍스트를 제자리에 서비스하는 동시에 에이전트 단계별로 서브채널을 동적으로 분할합니다. 실제 에이전트 추적(agent traces) 기반의 서비스 레벨 시뮬레이션에서 NORmal은 UFS 오프로딩 대비 8.9$ imes$--28.0$ imes$ 빠르며, 무제한 DRAM 이상적인 성능 대비 0.4% 이내입니다. 또한, 256K 토큰을 초과하는 세션에서는 HBF보다 2.8$ imes$--6.3$ imes$ 빠르고, 토큰당 메모리 에너지 소모량은 8.1$ imes$--17.8$ imes$ 적습니다.