일반 데이터베이스는 정확히 일치하는 값을 찾습니다. 'cafe'를 검색하면 'cafe'라는 단어를 포함하는 행들이 나옵니다.

벡터 데이터베이스는 더 이상한 일을 합니다. 모든 항목은 공간상의 한 점이며, 아무런 공통 단어가 없더라도 사용자의 점과 가장 가까운 점을 찾아냅니다.

'작업하기 좋은 조용한 카페'를 요청하면 '공부하기 좋은 커피숍, 와이파이'가 반환됩니다. 공통된 단어는 전혀 없습니다. 하지만 여전히 올바른 답변입니다.

하지만 여기에 진짜 문제가 있습니다. 840만 개의 벡터가 있을 때, 사용자의 질의와 이 모든 벡터를 비교하는 데 3초 이상이 걸립니다. 아무도 3초를 기다려주지 않습니다.

그래서 데이터베이스는 인덱스를 구축합니다. 미리 벡터들을 근처 지역(neighbourhoods)으로 그룹화하는 것입니다. 이제 검색은 스캔하지 않고, 점프합니다. 네 번의 점프로 840만 개의 후보군을 28개로 줄입니다. 7밀리초가 걸립니다.

이것이 바로 전체 제품입니다. 벡터들이 존재하는 곳이 아닙니다. 올바른 것들을 얼마나 빠르게 찾는지가 핵심입니다.

사용해 본 모든 RAG 시스템은 이 단계에 의존합니다. 👇

#VectorDatabase #RAG #AIExplained #MachineLearning #Embeddings #SemanticSearch #LearnAI #TechExplained #ByteBuilders #AIForBeginners #DataScience #LLM #ArtificialIntelligence #DataEngineering #TechEducation