turbovec, Google의 TurboQuant 알고리즘을 사용하여 벡터 인덱스를 float32 메모리의 약 ⅛ 크기로 압축하고

요약

turbovec는 Google의 TurboQuant 알고리즘을 활용하여 벡터 인덱스를 float32 메모리의 약 1/8 크기로 압축합니다. 이 기술은 FAISS보다 빠른 검색 속도를 제공하며, 온라인 데이터 수집 및 로컬 환경에서의 필터링 기능을 지원하여 RAG 스택에 적합한 고효율 솔루션입니다.

핵심 포인트

• TurboQuant 알고리즘으로 벡터 인덱스를 1/8 크기로 압축 가능
• FAISS보다 빠르며, 온라인 데이터 수집(Online ingest) 지원
• NEON 및 AVX-512BW 커널로 ARM 환경에서 성능 우위 입증
• 관리형 서비스 없이 로컬 에어갭 RAG 스택에 최적화