RAGLite: DuckDB 또는 PostgreSQL에서 late chunking을 사용하여 검색 증강 생성 (RAG) 애플리케이션을 구축하기
요약
RAGLite는 DuckDB 또는 PostgreSQL을 활용하여 경량 RAG 애플리케이션을 구축할 수 있는 Python 툴킷입니다. Late chunking과 하이브리드 검색을 지원하여 검색 성능을 최적화합니다.
핵심 포인트
- DuckDB 및 PostgreSQL 기반의 하이브리드 검색 지원
- Late chunking 및 문맥적 청크 헤딩을 통한 임베딩 최적화
- LiteLLM을 통한 다양한 LLM 및 로컬 모델 연동 가능
- 이진 정수 계획법을 활용한 최적의 의미론적 청킹 제공
RAGLite는 DuckDB 또는 PostgreSQL에서 late chunking을 사용하여 검색 증강 생성 (Retrieval-Augmented Generation, RAG) 애플리케이션을 구축하기 위한 경량 Python 툴킷입니다.
- LiteLLM을 통한 모든 LLM 제공업체 또는 로컬 llama-cpp-python 모델 선택 가능
- DuckDB 또는 PostgreSQL의 네이티브 키워드 및 벡터 검색을 사용한 하이브리드 검색 (Hybrid search)
- late chunking 및 문맥적 청크 헤딩 (contextual chunk headings)을 사용한 멀티 벡터 청크 임베딩 (Multi-vector chunk embedding)
- 이진 정수 계획법 (binary integer programming)을 통한 최적의 문장 및 의미론적 청킹 (semantic chunking)
여기에서 살펴보세요:
https://osp.fyi/raglite
당신의 GitHub 프로필을 공유해 주세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @githubprojects (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0