가장 좋은 RAG(Retrieval-Augmented Generation) 설정을 찾았습니다. 이제 그것을 팀이 매일 사용하는 실제 어시스턴트로 어떻게 만들까요?

이전 게시물에서 저는 AutoRAG나 RAGBuilder 같은 도구들이 데이터를 위해 최적의 RAG 조합(임베딩, 청크 크기, 리랭커 등)을 측정하고 찾는 방법을 다루었습니다. 하지만 그러한 도구들은 측정 장비일 뿐입니다. 이들은

문서(Documents) → RAGFlow (OCR + 파싱 + 청킹 + 인덱싱) → 지식 기반(Knowledge bases) (부서/클라이언트별) → 채팅 UI + API + MCP → 웹, Slack 또는 Claude와 같은 클라이언트

모든 것이 자체 호스팅됩니다. 따라서 귀하의 데이터는 절대 자체 서버를 벗어나지 않습니다. 이는 개인 정보 보호 및 규정 준수(GDPR/KVKK) 측면에서 중요한 장점입니다.

2단계 레시피

1. 측정 도구(AutoRAG, RAGBuilder)를 사용하여 데이터에 가장 적합한 RAG 설정을 찾습니다.
2. 해당 설정으로 RAGFlow에서 지식 기반을 구축하고, MCP를 통해 팀의 도우미를 연결합니다.

추측이 아닌 측정에 기반하여, 인용 기능을 갖춘 문서 도우미가 자체 서버에서 실행되는 것 — 오픈 소스 도구만으로도 오늘날 완전히 가능합니다.