이 가이드에 대하여

이전 가이드인 pgvector와 Gemini를 사용하여 처음부터 RAG 시스템 구축하기에서는 pgvector와 Gemini를 사용하여 처음부터 RAG 시스템을 구현한 후, 도구 사용 (Tool Use), AI 에이전트 (AI Agents), MCP, 그리고 클라우드 배포를 통해 이를 확장했습니다.

이 가이드는 그 후속편입니다. 이 가이드는 _"작동하는 시스템을 구축하는 것"_에서 _"프로덕션(Production)에서 작동하는 시스템을 만드는 것"_으로 여러분을 안내합니다.

[이전 가이드]
RAG → 도구 사용 (Tool Use) → AI 에이전트 (AI Agents) → MCP → Render × Supabase 배포

...

프로덕션 운영이 어려운 이유

RAG나 에이전트 (Agents)를 구현한 후, 실제로 서비스를 출시하려고 하면 필연적으로 다음과 같은 문제에 직면하게 됩니다:

품질 문제 (Quality problems)
"이 답변이 정확한가?"를 수동으로 확인하는 것은 확장성이 없습니다. 품질을 측정하기 위한 자동화된 시스템이 필요합니다.

가시성 문제 (Visibility problems)
프로덕션에서 문제가 발생했을 때, "어느 단계에서 어떤 일이 일어났는지" 추적할 수 없다면 진단할 수 없습니다.

보안 문제 (Security problems)
외부 사용자로부터 요청을 받을 때는 프롬프트 인젝션 (Prompt Injection) 공격과 금지된 콘텐츠를 처리해야 합니다.

지속적 개선 문제 (Continuous improvement problems)
프롬프트를 개선한 후 "이것이 실제로 개선되었는가?"를 검증할 방법이 없다면, 반복 주기 (Iteration cycle)가 정체됩니다.

모델 문제 (Model problems)
때로는 범용 모델만으로는 충분하지 않습니다. 특정 도메인에 특화된 모델이 필요할 수 있습니다.

가이드 구조

각 장은 독립적으로 읽을 수 있습니다. 내용은 이전 가이드의 구현 사항(pgvector, Gemini, RAG)을 전제로 하지만, 개념적인 이해만을 위해 읽을 수도 있습니다.

장 (Chapter)	주제 (Theme)	해결되는 문제 (Problem Solved)
Ch. 2	평가 (Evals)	답변 품질의 자동화된 측정
...

사전 요구 사항

• 이전 가이드의 pgvector 튜토리얼 완료
• Python 3.11, Docker, pgvector 환경 설정 완료
• .env 파일에 GEMINI_API_KEY 설정 완료

사용된 도구

도구 (Tool)	용도 (Purpose)	무료 티어 (Free Tier)
Google Gemini API	LLM + 임베딩 (Embedding)	일일 1,500회 요청 (requests/day)
...

제2장: 평가 (Evals)부터 시작하겠습니다.