SWIRL Community 4.5 업데이트

지난 여름 이곳에 SWIRL에 대해 글을 쓴 적이 있습니다. 이제 업데이트할 시간입니다.

SWIRL Community 4.5가 출시되었습니다. 이는 SWIRL의 오픈 소스(open-source), Apache-2.0 빌드 버전으로, 벡터 데이터베이스(vector database) 없이도 여러분의 자체 기기에서 실행되는 앱 전반에 걸친 연합 검색(federated search) 및 RAG(Retrieval-Augmented Generation)를 제공합니다. 이번 릴리스에서 주목할 만한 세 가지 사항이 있습니다.

1. 어떤 LLM(Large Language Model)이든 Point RAG 하기

가장 중요한 변화입니다. 이제 Community 버전에서 AI 제공업체(AI Providers)를 구성하고, OpenAI, Anthropic, Azure OpenAI 또는 Ollama나 vLLM 뒤에 있는 완전 로컬 모델 등 원하는 모든 모델로 RAG 쿼리를 보낼 수 있습니다. 제공업체를 선택하고 모델을 설정하면 끝입니다.

ai_provider:
  name: anthropic      # openai | azure | ollama | vllm
  model: your-model
...

이것이 중요한 이유는 두 가지입니다. RAG의 품질이 이제 저희가 아닌 여러분의 선택에 달려 있으므로, 정확도가 중요할 때 더 강력한 모델을 실행할 수 있습니다. 또한 검색(retrieval)과 생성(generation)을 모두 네트워크 내부에서 수행하여 전체 파이프라인을 로컬로 유지할 수 있습니다. 이는 기존에 Enterprise 기능이었으나, 4.5 버전부터 Community에 포함되었습니다.

2. RAG에 직접 질문하기

이제 RAG는 자연어 질문을 입력값으로 받습니다. 이전에는 검색을 실행한 후 그 결과에 대해 생성 작업을 수행했지만, 이제는 SWIRL에 일반적인 질문을 던지면 검색과 생성을 한 단계로 처리합니다. 질문을 입력하면 인용된 답변이 출력되므로, SWIRL을 채팅창이나 앱에 연결하기 위한 글루 코드(glue code)를 훨씬 적게 작성해도 됩니다.

3. 업데이트된 Galaxy

Community에는 검색 기록 위젯 + 대시보드, 정리된 관리자 인터페이스, 내장된 활동 분석 등을 포함한 새로운 Galaxy 5 UI가 포함되어 있습니다.

이번 릴리스의 요약입니다. 무료이며, 셀프 호스팅(self-hosted)이 가능하고, 이제 모델에 구애받지 않습니다(model-agnostic).