CAG (Cache-Augmented Generation)과 RAG 비교 프레임워크 구현

본 프로젝트는 Cache-Augmented Generation (CAG) 프레임워크와 전통적인 Retrieval-Augmented Generation (RAG)을 다양한 LLM(대규모 언어 모델)을 사용하여 비교하는 시연 에이전트를 구현합니다.

• CAG 및 RAG 프레임워크 모두를 구현하여 비교

• 여러 LLM 제공업체 지원 (OpenAI, Anthropic, Google, Mistral, Groq)

• 성능 지표 측정 및 비교

• 상세한 비교 보고서 생성

• 성능 향상을 위한 효율적인 캐싱 메커니즘 사용

• 리포지토리 클론:

git clone https://github.com/ai-in-pm/Cache-Augmented-Generation-CAG.git
cd Cache-Augmented-Generation-CAG

• 가상 환경 생성 및 활성화:

python -m venv venv
# Windows의 경우
venv\Scripts\activate
...

• 의존성 설치:

pip install -r requirements.txt

• 환경 변수 설정:

• 복사하여 붙여넣기
  .env.example 파일을 .env 파일로 변경

• 사용하려는 LLM 제공업체의 API 키 추가:
  OPENAI_API_KEY=your_key_here ANTHROPIC_API_KEY=your_key_here MISTRAL_API_KEY=your_key_here GROQ_API_KEY=your_key_here GOOGLE_API_KEY=your_key_here

시연 에이전트 실행:

python demonstrator.py

시연 에이전트는 다음 작업을 수행합니다:

• CAG 및 RAG 프레임워크 모두 초기화
• 일련의 비교 쿼리 실행
• 지표를 생성하고 결과를 Results 디렉토리에 저장

CAG/
├── cag_demo/ # 메인 패키지 디렉토리
│ ├── __init__.py
...

시연 에이전트는 두 가지 접근 방식을 비교합니다:

• Cache-Augmented Generation (CAG): 지식을 사전 로드하고 캐싱함

  • 실시간 검색(retrieval) 단계 제거
  • 지연 시간 감소 및 응답 시간 개선
  • 효율적인 메모리 관리 사용

• Retrieval-Augmented Generation (RAG): 전통적인 문서 검색 접근 방식

  • 실시간 문서 가져오기
  • 표준 컨텍스트 처리

결과는 Results 디렉토리에 JSON 형식으로 저장되며 다음 정보를 포함합니다:

• 타임스탬프(Timestamp)

• 사용된 LLM 모델

• 프레임워크 구성

• 쿼리 응답

• 성능 지표

• 시간 비교

• 저장소(repository)를 포크(fork)합니다.

• 기능 브랜치(feature branch)를 생성합니다 (
  git checkout -b feature/amazing-feature
  )

• 변경 사항을 커밋(commit)합니다 (
  git commit -m 'Add amazing feature'
  )

• 브랜치로 푸시(push)합니다 (
  git push origin feature/amazing-feature
  )

• 풀 리퀘스트(Pull Request)를 엽니다.

이 프로젝트는 MIT 라이선스에 따라 라이선스가 부여되었습니다. 자세한 내용은 LICENSE 파일을 참조하십시오.

• 모든 기여자 및 오픈 소스 커뮤니티에 감사드립니다.
• LLM 아키텍처와 검색 기술의 발전을 통해 영감을 받았습니다.