MRVQ: 차원 및 비트율 탄성 벡터 검색을 위한 단일 거주 인덱스

밀집 검색(Dense-retrieval) 서비스는 지연 시간(latency), 품질, 메모리 예산이 변함에 따라 임베딩 접두사 차원(embedding-prefix dimensions)과 인덱스 비트율(index bit rates) 사이를 전환해야 합니다. 각 비트율마다 별도로 양자화기(quantizer)를 조정하는 것이 최고의 품질을 제공하지만, 검색 계층은 여러 코드 스트림과 양자화기 상태를 동시에 보유하게 됩니다. 우리는 고정된 임베딩을 위한 사후 처리 잔차 양자화기인 Matryoshka Residual Vector Quantization (MRVQ)을 소개합니다. 이의 최대 비트율 코드는 두 가지 방식으로 잘릴 수 있습니다: 잔차 단계(residual stages)를 제거하면 비트율이 낮아지고, 임베딩 좌표(embedding coordinates)를 제거하면 차원이 낮아집니다. 따라서 하나의 거주 아티팩트(resident artifact)가 우리가 평가하는 모든 (차원, 비트율) 쌍에 서비스를 제공합니다. FiQA 및 NFCorpus, 네 가지 임베딩 패밀리, 그리고 {4, 8, 16}-바이트 코드를 넘나들며 MRVQ는 우리가 평가한 가장 낮은 RAM 설계입니다. 이는 세 개의 별도로 학습된 QINCo2 인덱스보다 17.8-22.0배 적은 메모리를 사용하며, 간결한 공유 모델(shared-model) 스틸맨(steelman)보다 1.89-2.02배 적습니다. 절약이 공짜는 아닙니다: 비트율별 QINCo2가 FiQA에서 0.026-0.107 nDCG@10 더 좋습니다. 그러나 MRVQ는 일치하는 코드 크기에서 PQ, OPQ, 그리고 AdANNS-OPQ를 능가합니다. 또한 RaBitQ와 그 확장판과 비교할 수 있는 품질을 달성하면서 중앙값에서 420배 빠르게 적합한 낮은 구축 비용의 PCA-스칼라 설계도 평가했습니다. 마지막으로, 두 가지 부정적인 결과를 보고합니다: QINCo2는 높은 비트율로 학습될 때 무너지고(collapses), 순위 기반 가설(ranking-bound hypothesis)은 사전에 지정된 수용 기준을 충족하지 못했습니다. 따라서 MRVQ는 탄성 검색을 위한 저메모리 작동점이지, 보편적인 품질 우승자는 아닙니다.