Memoria 1.0.0 — LLM을 위한 로컬, 모델 비종속 메모리 시스템

오랫동안 이것을 만들어 왔고, 오늘 밤 마침내 Memoria 1.0.0을 출시했습니다. 제가 실제로 사용하고 싶어서 만들었습니다. 특정 모델, 클라우드 서비스 또는 API 키에 의존하지 않는, 로컬 LLM 애플리케이션을 위한 실제 메모리 계층이 필요했습니다. Memoria는 로컬 우선(local-first)이며 LLM 비종속적입니다(LLM-agnostic). LLM 없이도 실행할 수 있습니다. 제가 구축하고 벤치마크한 머신은 그다지 인상적이지 않습니다. 사용 가능한 RAM 약 3.7 GiB, GPU 없음, Debian Linux를 사용하는 Intel Celeron N4020이 1.10 GHz로 작동합니다. LongMemEval-S에서 470개의 검색 평가 가능 질문 중 468개에 대한 결과를 반환했습니다. Recall@1은 89.8%, Recall@5는 97.9%, Recall@10은 98.9%, Recall@50은 99.6%였습니다. 세션 NDCG@10은 0.9257이었습니다. 전체 LongMemEval 워크로드를 위한 최대 RSS(Resident Set Size)는 2.65 GiB였습니다. 개별 쿼리에 대한 평균 최대 RSS는 약 580 MiB였습니다. 이 검색 시스템은 단순히 모든 것을 벡터 데이터베이스에 던지는 것이 아닙니다. Memoria는 FAISS, BM25, 그래프 검색(graph retrieval), 구문 일치(phrase matching), 속성 검색(attribute retrieval), 그리고 시간적 검색(temporal retrieval)을 병렬로 실행합니다. 이러한 신호들은 융합되어 다중 신호 순위 지정(multi-signal ranking)을 거쳐 전달됩니다. 시간적 검색은 독립적으로 구현되었기 때문에, 기본 검색 경로에 내장되는 대신 측정하고 제거할 수 있습니다. 사용 가능하지만, 여전히 활발하게 작업 중입니다. 출시 버전에는 다른 많은 것들도 포함되어 있습니다. GitHub 저장소 가져오기(ingestion), Obsidian 볼트 가져오기(ingestion), MCP 지원, CLI, TUI, GUI, 그리고 API, 영구 로컬 스토리지, LongMemEval 및 LoCoMo 벤치마크 도구, 그리고 11개의 서브시스템과 34개의 후크를 가진 플러그인 시스템이 있습니다. 또한 상호 작용적인 플러그인 생성기도 있습니다. 그리고 실제로 설치할 수 있습니다: bash pip install kitzkatz-memoria GitHub: https://github.com/Kitzkatz/memoria Docs: https://kitzkatz.github.io/memoria/ PyPI: https://pypi.org/project/kitzkatz-memoria/ 완벽한 시기를 기다릴 생각이 없었습니다. 1.0.0입니다.

로컬 에이전트나 로컬 LLM 애플리케이션을 개발하고 계시다면, 여러분의 의견을 진심으로 듣고 싶으며 어떤 피드백이라도 감사하겠습니다. /u/kitkatz69가 제출한 [link]와 [comments]를 참고해 주세요.