더 작은 로컬 LLM을 위한 매우 가벼운 오픈 웹 검색 도구

요약

작은 로컬 LLM 기반 에이전트 사용 시 웹 검색의 어려움을 해결하기 위해 'TinySearch'라는 오픈 소스 도구가 개발되었습니다. 이 도구는 웹 검색과 크롤링을 수행한 후, 전체 페이지 텍스트를 제공하는 대신 유용한 부분을 청킹(chunking), 검색(retrieval), 재순위화(reranking)하여 훨씬 작은 컨텍스트 덩어리를 에이전트에게 제공합니다. 이는 복잡한 백엔드 구축 없이 로컬에서 정보 탐색 기능을 추가하려는 에이전트 빌더들에게 유용한 '로컬 리서치 레이어' 역할을 합니다.

핵심 포인트

• TinySearch는 작은 로컬 LLM을 위한 경량 웹 검색 및 정보 추출 도구입니다.
• 단순히 페이지를 크롤링하는 것이 아니라, 청킹(chunking), 검색(retrieval), 재순위화(reranking) 과정을 거쳐 핵심 컨텍스트만 제공합니다.
• DuckDuckGo, Crawl4AI, dense + BM25 방식의 검색 및 FastAPI 서버 실행을 지원합니다.
• 전체 백엔드 구축이 부담스러운 에이전트 빌더를 위한 로컬 리서치 레이어 역할을 목표로 합니다.