pgvector와 Gemini를 사용하여 처음부터 RAG 시스템 구축하기 — 소개

이 가이드에서 다루는 내용

LLM (Large Language Model) 기반 애플리케이션 구축을 시작할 때, 피할 수 없는 하나의 패턴이 있습니다: 바로 **RAG (Retrieval-Augmented Generation, 검색 증강 생성)**입니다.

LLM은 학습된 데이터만을 알고 있습니다. 회사의 내부 문서, 최신 사양서, 프로젝트별 특정 정보 등은 모델에 존재하지 않습니다. 모델이 알지 못하는 데이터를 처리하려면, 관련 지식을 실시간으로 검색하여 컨텍스트 (Context)에 주입하는 시스템이 필요합니다. 그것이 바로 RAG입니다.

이 가이드에서는 pgvector와 Gemini를 사용하여 처음부터 RAG 시스템을 구현하고, 이후 Tool Use (도구 사용), AI Agents (AI 에이전트), MCP, 그리고 클라우드 배포를 통해 단계별로 확장해 나갈 것입니다.

1단계: Embedding (임베딩) · Vector DB (벡터 데이터베이스) · RAG — 핵심 구현
2단계: AI 아키텍트의 관점 — 설계 결정 사항 설명
3단계: Tool Use (도구 사용) — LLM이 자율적으로 DB 검색
...

먼저 이해해야 할 세 가지 개념

Embedding (임베딩)

컴퓨터는 원문 텍스트에서 "의미적 유사성 (semantic similarity)"을 측정할 수 없습니다. Embedding (임베딩)은 텍스트를 숫자 리스트 (벡터, vector)로 변환하며, 의미적으로 유사한 단어들은 수치적으로 유사한 패턴을 생성합니다.

"dog"  → [0.82, 0.75, 0.10, ...]  768개의 숫자
"cat"  → [0.78, 0.72, 0.12, ...]  ← "dog"와 유사한 패턴
"bank" → [0.08, 0.10, 0.85, ...]  ← 완전히 다른 패턴

Gemini의 임베딩 모델이 이 변환을 처리합니다.

Vector DB (벡터 데이터베이스)

일반적인 DB는 키워드 매칭을 통해 검색합니다. Vector DB (벡터 데이터베이스)는 **수치적 거리 (numeric distance)**를 기준으로 검색합니다. 즉, 정확한 단어가 일치하지 않더라도 의미적으로 관련된 문서를 찾아냅니다.

-- 일반적인 검색 (키워드가 일치하지 않으면 놓침)
SELECT * FROM docs WHERE body LIKE '%F1 score%';

...

"모델 성능을 측정하는 방법"을 검색하면, 일치하는 단어가 없더라도 "F1 score 계산"을 찾아냅니다. 우리는 이를 위해 PostgreSQL 확장 기능인 pgvector를 사용합니다.

RAG

LLM은 학습 데이터로 제한됩니다. RAG는 관련 문서를 검색하여 이를 LLM에 컨텍스트 (Context)로 전달하는 디자인 패턴으로, 모델이 한 번도 본 적 없는 데이터에 대한 질문에 답변할 수 있게 해줍니다.

[일반 LLM] 질문 → 학습 데이터에서만 답변 도출
[RAG]       질문 → Vector DB 검색 → 결과를 LLM에 전달 → 근거 있는 (grounded) 답변 도출

대상 독자

• AI 애플리케이션 개발이 처음인 Python 경험이 있는 엔지니어
• 코드를 통해 RAG, 임베딩 (Embedding), 벡터 검색 (vector search)을 이해하고 싶은 모든 분
• 로컬 구현부터 클라우드 배포까지 실전 학습을 원하는 모든 분

사용 도구 (모두 무료)

도구	용도	무료 티어
Google Gemini API	임베딩 (Embedding) 생성 · 답변 생성	일일 1,500회 요청
...

AI 아키텍트 로드맵에서의 위치

이 가이드는 응용 (Applied) 및 설계 (Design) 단계에 집중합니다. 이는 기초(LLM 기본 지식, 프롬프트 엔지니어링 (Prompt Engineering), API/SDK 사용법)를 학습한 후 거치는 첫 번째 큰 구현 단계입니다.

	주제	구현 내용
✓	RAG	pgvector와 Gemini를 사용한 전체 RAG 파이프라인
...

다음 글에서 환경 설정과 첫 번째 구현을 시작해 보겠습니다.

시리즈 인덱스

1. 소개 (본 문서)
2. RAG · 임베딩 (Embedding) · 벡터 DB (Vector DB) 구현
3. AI 아키텍트의 관점에서 RAG 설계 읽기
4. 도구 사용 (Tool Use) — LLM이 자율적으로 검색하게 하기
5. AI 에이전트 (AI Agents) — 여러 도구 결합하기
6. MCP — pgvector 검색을 MCP 서버로 노출하기
7. 클라우드 배포 (Cloud Deployment) — Render × Supabase
8. 정리 및 향후 단계

소스 코드: github.com/qameqame/pgvector-tutorial