main

CAP과 SAP HANA Vector Engine & SAP Core AI

설명

이 저장소는 CAP LLM Plugin을 사용하여 SAP AI Core 및 SAP HANA Cloud Vector Engine의 기능을 노출하는 클라우드 애플리케이션 프로그래밍 모델 (Cloud Application Programming Model) 애플리케이션을 구축하는 코드 샘플을 포함합니다. 또한 이 코드는 개발자가 벡터 임베딩(vector embeddings)을 활용하여 LLM에 문맥적 정보(contextual information)를 제공하는 방법을 보여줍니다.

엔드투엔드 시나리오(end-to-end scenario)에 대한 자세한 내용은 아키텍처 문서를 참고하세요.

CAP LLM Plugin, SAP AI Core 및 SAP Generative AI Hub 학습을 위한 교육적 경험을 원한다면 SAP Cloud Application Programming Model CodeJam으로 SAP AI Core 기능 노출하기를 따라 해보세요.

요구사항

Visual Studio Code 또는 Neovim과 같은 적절한 IDE
Cloud Foundry CLI 설치
hana-cli 설치 (선택 사항)
SAP BTP 계정 생성
SAP HANA Cloud 인스턴스 생성.
SAP AI Core 인스턴스 생성
ChatCompletion gpt-35-turbo or gpt-4 및 임베딩 모델 text-embedding-ada-002를 지원하는 배포(deployments) 생성
SAP AI Core의 서비스 키를 기반으로 서브 계정의 SAP BTP Cockpit에 Generative AI Hub용 대상(destination) 생성:

Name: GENERATIVE_AI_HUB
Description: SAP AI Core 배포 서비스 (생성형 AI 허브)
URL: <AI-API-OF-AI-CORE-SERVICE-KEY>/v2 # /v2를 추가하는 것을 잊지 마세요!
...

SAP BTP 계정에는 다음 권한(entitlements)이 필요합니다:

Name	Service/Application	Plan
AI Core	`aicore`	`extended`
...

다운로드 및 설치

이 GitHub 리포지토리를 로컬 머신에 클론하고 VS Code 또는 다른 적절한 에디터에서 엽니다.
루트 디렉토리에서 npm install을 실행하여 모든 의존성을 설치합니다.
SAP BTP 서브 계정에 연결합니다:
cf login -a <subaccount-endpoint>
다음 서비스를 애플리케이션에 바인딩합니다:
- SAP HDI 인스턴스, hdi-shared
  cds bind --to <hdi-shared-instance>:<service-key-name>
- SAP BTP, Destination Service
  cds bind --to <destination>
SAP HANA Cloud 배포를 위한 데이터베이스 아티팩트를 빌드합니다:
cds build --for hana
데이터베이스 아티팩트를 SAP HANA Cloud에 배포합니다:
cds deploy --to hana:<hdi-shared-service-instance>
하이브리드 테스트를 실행하려면 다음을 실행합니다:
cds watch --profile hybrid

애플리케이션 사용 방법

사용 사례를 제대로 실행하기 위해서는 호출할 수 있는 네 가지 API 엔드포인트가 있으며, 이는 API 문서에서 찾을 수 있습니다.

이 CAP 애플리케이션에는 두 개의 서비스가 정의되어 있습니다:

임베딩 저장소(Embedding Storage): 입력 텍스트 청킹, 벡터 임베딩 생성, SAP HANA Cloud 벡터 엔진에 벡터 임베딩 저장 및 삭제를 포함합니다.
로드쇼 서비스(Roadshow Service): RAG 응답 검색 호출과 유사성 검색 실행을 포함합니다.

추가 정보

알려진 문제점

알려진 문제점 없음.

지원 방법

버그를 발견했거나 내용에 대해 질문이 있는 경우, 이 저장소에서 이슈 생성을 해주세요.

추가적인 지원은 SAP Community에 질문하기를 이용하세요.

기여

코드, 수정 사항 또는 개선점을 제공하고 싶다면 풀 리퀘스트(pull request)를 보내주세요. 법적 이유로 인해 기여자들은 이 프로젝트에 첫 풀 리퀘스트를 생성할 때 DCO(Developer Certificate of Origin)에 동의해야 합니다. 이는 제출 과정 중 자동적으로 이루어집니다. SAP는 Linux Foundation의 표준 DCO 텍스트를 사용합니다.

CAP과 SAP HANA Vector Engine을 활용한 애플리케이션 예제

요약

핵심 포인트