RAGLite: DuckDB 또는 PostgreSQL에서 late chunking을 사용하여 검색 증강 생성 (RAG) 애플리케이션을 구축하기

요약

RAGLite는 DuckDB 또는 PostgreSQL을 활용하여 경량 RAG 애플리케이션을 구축할 수 있는 Python 툴킷입니다. Late chunking과 하이브리드 검색을 지원하여 검색 성능을 최적화합니다.

핵심 포인트

• DuckDB 및 PostgreSQL 기반의 하이브리드 검색 지원
• Late chunking 및 문맥적 청크 헤딩을 통한 임베딩 최적화
• LiteLLM을 통한 다양한 LLM 및 로컬 모델 연동 가능
• 이진 정수 계획법을 활용한 최적의 의미론적 청킹 제공