AI 에이전트를 위한 메모리 엔진을 구축했습니다. 클라우드는 필요 없습니다.
요약
AI 에이전트의 세션 간 기억력 문제를 해결하기 위해 Rust로 구축된 로컬 우선 시맨틱 메모리 엔진 Uteke를 소개합니다. 클라우드 없이 로컬에서 벡터 검색과 전체 텍스트 검색을 결합하여 빠르고 프라이빗한 메모리 관리를 제공합니다.
핵심 포인트
- Rust 기반의 로컬 우선 시맨틱 메모리 엔진 Uteke 출시
- 벡터 검색과 SQLite FTS5를 결합한 하이브리드 검색 방식 사용
- 클라우드 의존성 없이 로컬 임베딩 모델로 데이터 프라이버시 확보
- 약 45ms 내외의 매우 빠른 검색 성능 제공
---cover_image: [https://cdn.codecora.dev/2026/07/uteke_thumbnail_compressed.png---]내가 사용해 본 모든 AI 에이전트는 동일한 문제를 가지고 있습니다. 바로 세션(session) 사이의 모든 것을 잊어버린다는 점입니다. 당신의 아키텍처(architecture), 트레이드오프(trade-offs), 팀 컨벤션(team conventions)을 설명합니다. 하지만 다음 대화에서는? 백지상태입니다. 기억력이 전혀 없는 모델에게 똑같은 내용을 다시 설명해야 합니다. 이것은 프롬프트 엔지니어링 (prompt engineering)의 문제가 아닙니다. 인프라스트럭처 (infrastructure)의 격차 문제입니다.
그래서 직접 만들었습니다
Uteke는 Rust로 작성된 로컬 우선 (local-first) 시맨틱 메모리 엔진 (semantic memory engine)입니다. 단일 바이너리이며, Docker가 필요하지 않고 (원한다면 선택 사항), API 키도, 클라우드 계정도 필요하지 않습니다. 설치하고, 메모리를 저장하고, 약 45ms 내에 검색하세요. 이것이 전체 루프입니다.
작동 방식 (요약 버전)
메모리를 저장할 때, 두 가지 작업이 병렬로 발생합니다:
- 로컬 임베딩 모델 (embedding model, 188MB, 한 번 다운로드하면 API 호출 없음)을 사용한 벡터 검색 (Vector search)
- 정확한 키워드 매칭을 위한 SQLite FTS5를 통한 전체 텍스트 검색 (Full-text search)
쿼리 시점에 두 인덱스가 동시에 작동하며 Reciprocal Rank Fusion이 결과를 병합합니다. 당신은 시맨틱 매칭 (semantic matches, 예: "authentication"이라고 물으면 "login flow"를 찾음)과 정확한 일치 항목을 하나의 순위 목록에서 얻을 수 있습니다.
데이터는 ~/.codecora/uteke/에 머뭅니다. 아무것도 당신의 기기를 떠나지 않습니다.
수치
- 첫 커밋 이후 58일 경과
- v0.10.1, 40개 이상의 릴리스
- GitHub에서 148 stars, 16 forks
- 10,000개의 항목에서 벡터 회상(vector recall) 약 5ms, 전체 파이프라인 약 45ms
- Apache 2.0 라이선스
설치
`bash
가장 빠른 방법
curl -sSL codecora.dev/install | sh
homebrew
brew install codecoradev/tap/uteke
소스에서 설치
cargo install uteke-cli`
처음 실행 시 임베딩 모델(~188MB)을 다운로드합니다. 그 이후에는 모든 것이 로컬에서 이루어집니다.
AI 메모리에 로컬 우선 방식이 중요한 이유
클라우드 메모리 솔루션은 작동할 때는 잘 작동하지만, 그렇지 않을 때가 있습니다.
API 키가 교체되거나, 서비스가 중단되거나, 당신의 데이터가 타인의 데이터베이스에 저장되거나, 혹은 빠르고 프라이빗해야 할 기능에 대해 쿼리당 비용을 지불해야 할 수도 있습니다. Uteke는 노트북, CI 러너(CI runner), 또는 서버에서 동일하게 작동합니다. 네트워크 지연 시간(network latency)이 없습니다. 벤더 종속성(vendor lock-in)도 없습니다. 쿼리당 과금 방식도 없습니다.
저희 블로그에 아키텍처(architecture), 임베딩 파이프라인(embedding pipeline), 그리고 벤치마크(benchmark) 상세 내용에 대한 심층 분석 글을 작성했습니다. 기술적인 세부 분석을 원하신다면, 여기에서 읽어보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기