대부분의 RAG 스택은 덕트테이프로 붙인 여섯 가지 서비스에 불과합니다.
요약
기존 RAG 스택의 복잡성을 지적하며, Utopia라는 새로운 아키텍처를 제안합니다. 이 시스템은 단일 바이너리와 PostgreSQL DB로 구성되어 있으며, '시간'을 중심으로 모든 지식을 관리하여 사실의 변경 이력을 추적하고 원하는 시점으로 되돌릴 수 있습니다.
핵심 포인트
- 기존 RAG 스택은 여러 서비스 조합으로 복잡하다는 문제점을 제기합니다.
- Utopia는 단일 바이너리와 PostgreSQL DB로 간결하게 구성됩니다.
- '시간'을 중심으로 지식을 관리하여 사실의 변경 이력을 보존합니다.
- 모든 사실에는 시작/종료 날짜가 부여되어 타임라인 기반 추적이 가능합니다.
대부분의 RAG 스택은 덕트테이프로 붙여 놓은 여섯 개의 다른 서비스들입니다.
Utopia는 단 하나의 바이너리와 하나의 postgres 데이터베이스로 구성되어 있습니다. 그게 전부입니다.
전체 스택이 이렇습니다.
Elasticsearch도 없고, 벡터 DB도 없고, 메시지 큐도 없습니다. 돌봐야 할 다른 것도 아무것도 없습니다.
그리고 모든 지식 기반이 무시하는 단 하나의 것, 즉 '시간'을 중심으로 구축되었습니다.
모든 사실에는 시작 날짜와 종료 날짜가 부여됩니다. 무언가가 변경되면, 오래된 사실은 삭제되는 대신 닫히고 그 자리에 새로운 사실이 열립니다. 따라서 아무것도 덮어쓰여지지 않으며, 전체 기록이 그대로 남아 있습니다.
이는 그래프가 정적인 스냅샷이 아니라는 것을 의미합니다. 실제로 스크러빙할 수 있는 타임라인입니다.
원하는 날짜로 되돌려 보면 소유권, 정책 등 모든 것이 그날 진실이었던 것에 맞춰 다시 그려집니다.
모든 사실은 또한 자신이 가져온 정확한 문장과 연결됩니다. 증거 없이 어떤 사실도 들어갈 수 없습니다.
또한 원하는 모델을 플러그인하여 완전히 에어 갭(air gapped) 상태로 실행할 수도 있습니다.
이것이야말로 기업의 두뇌가 갖춰야 할 모습이며, 단순히 문서에 붙여 놓은 또 다른 챗봇이 아닙니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @cyrilxbt (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기