Eidetic OS vs Mem0 vs Letta vs Khoj — 2026년 AI 메모리 레이어 선택하기

전체 공개: 저는 Eidetic OS를 개발한 1인 개발자 Paul Holland입니다. 제가 이 프로젝트를 만든 이유는 그 어떤 것도 제가 원하는 것, 즉 제가 실제로 소유하고 이해할 수 있는 로컬 우선 (local-first) AI 메모리를 제공하지 않았기 때문입니다. 이 비교는 지형을 공정하게 파악하려는 저의 솔직한 시도입니다. 다른 도구들이 어디에서 더 강력한지, 그리고 제가 생각하기에 Eidetic가 어디에서 승리하는지를 말씀드리겠습니다.

문제점: AI는 건망증이 있다

LLM (대규모 언어 모델)과 새로운 채팅을 시작할 때마다, 모델은 모든 것을 잊어버립니다. 당신의 선호도, 프로젝트 컨텍스트, 지난주의 대화 내용까지 모두 사라집니다. 업계는 이 문제에 대해 각기 다른 접근 방식을 취하는 몇 가지 "메모리 레이어 (memory layer)" 도구들로 대응해 왔습니다.

2026년에 옵션을 평가하고 있다면, 진지하게 살펴볼 가치가 있는 다섯 가지가 있습니다: Eidetic OS, Mem0, Letta (이전의 MemGPT), Khoj, 그리고 Nucleus MCP입니다. 이들은 VC(벤처 캐피털) 자금을 지원받은 클라우드 플랫폼부터 1인 개발 오픈 소스 프로젝트까지 다양합니다. 하나씩 분석해 보겠습니다.

경쟁 후보들

Eidetic OS

정의: 오픈 소스 기반의 로컬 우선 (local-first) AI 메모리 운영체제입니다. 20개 이상의 서브 명령어를 가진 Python CLI (명령줄 인터페이스)를 제공합니다.

저장소: SQLite + sqlite-vec를 사용합니다. 외부 데이터베이스 의존성이 없습니다.

검색: BM25 어휘 검색 (lexical search)과 벡터 유사성 (vector similarity)을 결합한 하이브리드 검색 (hybrid retrieval) 방식을 사용하며, 이는 상호 순위 융합 (Reciprocal Rank Fusion, RRF)을 통해 결합된 후 TF-IDF 점수로 재순위화 (reranked)됩니다.

메모리 모델: 지수적 감쇠 (exponential decay)를 적용한 3단계 아키텍처 — Core, Recall, Archival로 구성됩니다: P(M) = e^(-λt) * (1 + βf).

검증: 5단계 GROUND 스타일 파이프라인을 사용합니다. SHA-256 해시 체인을 포함한 Ed25519 암호화 서명을 지원합니다.

통합: Obsidian 보관함 동기화, MCP 스킬, 확장 아키텍처를 지원합니다. LM Studio를 통해 로컬 LLM과 함께 작동합니다.

Mem0 ($2,400만 달러 투자 유치)

관리형 메모리 레이어입니다. 클라우드 호스팅 방식이며 API 기반으로 작동합니다. 엔티티 추출 (entity extraction) 기능이 있는 그래프 기반 메모리를 제공합니다. 프로덕션 단계의 SaaS 앱에 가장 적합합니다.

Letta ($1,000만 달러 투자 유치, 이전 명칭 MemGPT)

지속 가능한 메모리를 가진 상태 유지 (stateful) AI 에이전트 프레임워크입니다. 강력하지만 복잡합니다. 에이전트 오케스트레이션 (agent orchestration)에 가장 적합합니다.

Khoj (오픈 소스)

메모리와 검색 기능을 갖춘 개인용 AI 어시스턴트 (Personal AI assistant). 사용자 경험 (UX)은 훌륭하지만, 기술적 확장성은 다소 낮습니다.

Nucleus MCP

MCP 기반의 메모리 서버. 깔끔한 아키텍처를 갖추고 있으나, 비교적 최신 기술이며 아직 성숙도가 낮습니다.

비교 표

기능	Eidetic OS	Mem0	Letta	Khoj	Nucleus MCP
호스팅 (Hosting)	로컬 우선 (Local-first)	클라우드 (Cloud)	클라우드 + 셀프 호스팅 (self-hosted)	클라우드 + 셀프 호스팅 (self-hosted)	로컬 (MCP)
...

각 솔루션의 강점

Mem0의 승리: 수천 명의 사용자에게 걸쳐 메모리를 확장해야 하는 프로덕션 앱 (production apps)에 적합합니다.

Letta의 승리: 메모리를 하나의 구성 요소로 사용하는 완전한 에이전트 오케스트레이션 (agent orchestration)에 적합합니다.

Khoj의 승리: 세련된 인터페이스를 갖춘 개인용 AI에 적합합니다.

Nucleus MCP의 승리: MCP 생태계의 우아함 측면에서 승리합니다.

Eidetic OS의 승리: 다음과 같은 요소를 중요하게 생각한다면 선택하십시오:

• 개인정보 보호 (Privacy): 데이터가 사용자의 기기를 절대 떠나지 않습니다.
• 감사 가능성 (Auditability): Ed25519 + SHA-256 해시 체인 (hash chain) 적용
• 검색 품질 (Retrieval quality): RRF 퓨전 (RRF fusion)을 결합한 하이브리드 BM25 + 벡터 (vector)
• 메모리 현실성 (Memory realism): 지수적 감소 (Exponential decay)를 통해 오래된 컨텍스트 (stale context) 방지
• 검증 (Verification): 콘텐츠가 LLM에 도달하기 전 5단계 검증 수행
• 해킹 가능성 (Hackability): Python CLI 제공, 블랙박스 없음

솔직한 평가

Eidetic OS는 벤처 캐피털의 지원을 받는 플랫폼이 아닌 개인 프로젝트입니다. 하지만 자신의 스택 (stack)을 이해하는 것을 가치 있게 여기고, 개인정보를 존중하는 AI 메모리를 원하며, 검증과 감사가 사후 고려 사항이 아닌 핵심 기능이라고 믿는다면, Eidetic OS는 바로 당신을 위해 만들어졌습니다.

사용해 보기

pip install eidetic-os

GitHub: github.com/paulholland511/eidetic-os

유용하다고 생각되면 저장소(repo)에 Star를 눌러주세요. 그렇지 않다면 이슈(issue)를 생성해 주세요.

Paul Holland은 Eidetic OS를 개발합니다. 그는 AI 메모리가 로컬에 존재하고, 검증 가능하며, 온전히 사용자의 것이어야 한다고 믿습니다.