DeepSeek-V3.2 과 V4 는 Compressed Sparse Attention (CSA) 를 도입했습니다: CSA 는 학습된 점수 투영 (압축된 키에 대한) 인덱서를 통해 점수를 산출하고, 쿼리당 Top-k 을 선택하며, 희소 주의 커널은 오직 해당 항목만 읽습니다. 공개 CSA 구현체는 [B, S, H_I, T] FP32 점수 텐서를 Top-k 감소를 전에 물질화 (materialize) 합니다. H_I=64 인덱서 헤드와 V4-Flash 압축 비율 m=4 를 사용할 때, 그 중간 값은 시퀀스 길이 S=65,536 에서 256 GB 가 되어 단일 GPU 의 고대역폭 메모리 (HBM) 예산을 초과합니다. 우리는 StreamIndex 를 제시하며, 이는 CSA 파이프라인의 Triton 구현이며, 핵심 구성 요소는 전체 중간 값을 물질화하지 않는 chunked partition-merge Top-k 드라이버입니다. 단일 NVIDIA H200 에서 인덱서 단계 (레이어) 수준에서 합성적이지만 현실적인 V4 형식의 입력을 사용할 때, 물질화 경로는 S=65,536 에서 메모리 부족 (OOM) 을 발생하며, StreamIndex 는 동일한 인덱서를 S=1,048,576 까지 6.21 GB 피크 HBM 으로 실행합니다. 작은 S 에서 두 구현 모두 적합할 때 Set-overlap recall 은 물질화 기준값과 비트 정확도 (bit-exact) 를 가집니다. 세 가지 5 점 디자인 스페이스 스윕 (chunk size, key-tile size, top-k) 을 통해 평균 recall 은 1.0000 로 반올림되며, 모든 셀에서 최소 recall 은 0.9980 이상입니다. chunked 드라이버는 TileLang 의 파이프라인 주의 커널과 조화됩니다: S=262,144 와 V4-Flash 차원을 사용할 때, 물질화 인덱서와 TileLang 주의 OOM 을 발생시키지만, chunked 인덱서와 동일한 주의 커널은 1.97 초에 18.56 GB 피크로 실행됩니다. 우리의 기여는 인덱서 단계에 집중하며, 더 빠른 주의 커널이나 실제 체크포인트 엔드 투 엔드 동작에 대한 주장은 없습니다. 코드: https://github.com/RightNow-AI/StreamIndex.