QASP: 쿼리 적응형 강건 벡터 검색 정책 (Query-Adaptive Robust Vector Search Policy)
요약
QASP는 쿼리별 재현율(Recall)을 예측하여 검색 정책을 동적으로 조정하는 쿼리 적응형 벡터 검색 기술입니다. 단 한 번의 회귀를 통해 목표 재현율에 최적화된 검색 깊이를 결정하며, 데이터 액세스를 80% 절감하면서도 높은 성능을 유지합니다.
핵심 포인트
- 쿼리별 재현율 진행 곡선을 예측하여 최적의 검색 정책 도출
- 추가적인 모델 호출 없이 경량화된 반응형 보완 기법 적용
- 데이터 액세스를 80% 줄이면서도 99%의 높은 재현율 달성
- 데이터셋 크기와 차원에 관계없이 일반화 가능한 스케일 불변 특징 활용
벡터 검색 (Vector Search)의 근본적인 과제는 계산 비용을 최소화하면서 일관되게 높은 재현율 (Recall)을 달성하는 것입니다. 고정된 검색 파라미터는 쿼리 전반에 걸쳐 상당한 성능 편차를 유발하며, 평균 재현율 (Average Recall)에 기반한 전통적인 평가는 이러한 쿼리별 격차를 가립니다. 우리는 단 한 번의 사전 지도 회귀 (Supervised Regression)를 통해 쿼리당 전체 재현율 진행 곡선 (Recall Progression Curve)을 예측하고, 이를 통해 임의의 재현율 목표에 대한 검색 정책을 도출하는 QASP (Query-Adaptive robust vector Search Policy)를 소개합니다. 이는 검색 중 반복적인 모델 호출이나 목표별 별도의 예측기를 사용하는 것을 방지합니다. 스케일 불변 특징 (Scale-invariant features)과 검색 전 추론 (Pre-search inference)을 통해 정규화된 재현율 값을 예측함으로써, QASP는 재현율 목표, 인덱스 구성 및 데이터셋 전반에 걸쳐 일반화됩니다. QASP의 미세한 진행 예측은 추가적인 추론 없이 예측값과 관측값 사이의 편차에 따라 검색 깊이를 조정하는 경량화된 반응형 보완 기법 (Reactive Complement)을 가능하게 합니다. 우리는 QASP가 데이터셋의 크기와 차원에 독립적인 유한한 훈련 샘플을 필요로 한다는 점, QASP의 손실 (Loss)이 어떠한 고정 정책의 불가피한 하한선 (Irreducible Lower Bound)을 아주 미미한 차이로 초과한다는 점, 그리고 고정된 탐색 (Fixed Probing) 대비 데이터 액세스 절감 효과가 고유 차원 (Intrinsic Dimensionality)에 따라 기하급수적으로 증가한다는 점을 증명합니다. 실험적으로 QASP는 재현율 분산과 목표 편차를 현저히 낮추고, 더 높은 쿼리 만족도를 달성하며, 재학습 없이도 대규모 데이터 및 계층적 인덱스 (Hierarchical Indices)로 확장 가능함을 보여주었습니다. 또한 데이터 액세스를 80% 줄이면서도 99%의 재현율을 달성했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기