Show GN: AutoRAG Agent - 컴퓨터에 있는 모든 것을 검색해주는 에이전트 (파일, 메신저 대화 기록, 이메일, 노션...

• AutoRAG는 RAG 자동 최적화 프레임워크였으나, 에이전트 시대 고정된 하나의 RAG 파이프라인을 찾는 것보다는 진정한 RAG 에이전트 구축에 필요성을 느낌

• 이에 AutoRAG 팀과 RAG 전문회사 브레인크루, 투이컨설팅이 컨소시엄을 이루어 'AutoRAG Agent'를 개발함

• AutoRAG Agent는 사용자의 컴퓨터에 있는 거의 모든 정보들에서 질문과 관련있는 내용을 검색하고 답변을 내주는 것에 특화된 에이전트

• 로컬 문서 파일 뿐 아니라 디스코드, 슬랙, 텔레그램 등의 메신저 대화 기록, 이메일, 노션, 옵시디언, 이미지 등도 검색 가능

• 클로드 코드, 코덱스 등 다른 에이전트에 연결하여 탐색용 서브 에이전트로도 활용 가능

• AutoRAG Agent는 데이터를 한 곳에 모으지 않음

• 통상적으로 RAG는 한 곳에 수많은 데이터들을 모으지만, 이는 데이터 최신화, 유지보수, 권한 문제 등을 야기함

• LLM의 탐색과 툴 콜링 능력의 발전으로 데이터를 모으지 않고, 분산되어 인덱싱 해두고 에이전트가 직접 각각의 데이터 소스에서 검색하도록 설계함

• 즉, 하나의 벡터 DB가 아닌 여러 개가 존재하며, 에이전트가 능동적으로 필요한 정보를 탐색함

• 큰 사전지식 없이 사용할 수 있도록 만들어짐

• 제대로 된 로컬 RAG를 구축하기 위해서는 많은 사전 지식과 공부가 필요함

• 상기한 분산형 구조를 통해 기본적인 검색 성능을 높이고, 임베딩 모델이나 토크나이저 등의 기본 설정을 내장하여 유저의 설정 필요성을 최대한 줄임

• 기본적으로 증분 인덱싱과 키워드 기반 및 의미 기반 검색을 모두 지원함

• Qwen Embedding 0.6B 모델을 임베딩 모델로 사용하여, LLM을 제외하면 API 발급 등을 최소화

• 일단 빠른 응답을 내놓도록 설계됨

• 기존 코딩 에이전트는 long-running 하도록 설계되어 간단한 질의에도 한참 파일 등을 탐색함

• AutoRAG Agent는 질문을 받는 즉시 검색을 수행, 정보가 충분하지 않아도 빠른 응답을 반환함

• 이후 충분한 시간을 거쳐 더 많은 정보를 탐색하고 정확한 답변을 제공함

• 간단한 질문이라면 기다릴 필요 없이 곧바로 답변을 확인하고 이용 가능

• 현재는 CLI 및 간단한 TUI를 통해 이용 가능

• 맥 OS에 최적화되어 있으며, 리눅스와 윈도우도 지원

• 빠른 시일 내로 간편한 사용을 위한 GUI 버전을 추가할 예정

댓글과 토론