AI 에이전트는 강력하지만, 모든 것을 잊어버립니다. 제가 반증 가능한 증거(falsifiable evidence)를 통해 이 문제를 어떻게 해결했는지 소개합니다.

내가 무시할 수 없었던 문제

새벽 2시, 저는 좌절감 속에 화면을 응시하고 있었습니다.

그 주에만 벌써 세 번째로, 저는 Claude에게 동일한 아키텍처 결정 사항들을 다시 설명하고 있었습니다. "모든 데이터베이스 접근은 src/db/store.ts를 통해 이루어집니다." "우리는 마이크로서비스(microservices) 접근 방식 X를 시도했지만 실패했습니다." "인증(Auth)은 이 단일 모듈을 통해 흐릅니다."

AI는 이해하고 몇 시간 동안 코딩을 도와주었지만, 그다음 세션이나 다음 채팅이 되면... 모든 것을 잊어버렸습니다.

그때 깨달았습니다: AI 코딩 에이전트는 기억상실증에 걸려 있습니다.

모두가 메모리를 잘못 구축하고 있다

기존 솔루션들을 살펴보았습니다. Mem0, MemGPT, 그리고 다양한 컨텍스트 제공자(context providers)와 같은 도구들은 정보를 저장하고 있었습니다. 하지만 그들은 모두 동일한 치명적인 결함을 가지고 있었습니다:

그들의 메모리가 여전히 사실인지 전혀 검증하지 않는다는 점입니다.

생각해 보세요: 여러분의 코드베이스는 끊임없이 변합니다. 지난달의 그 아키텍처 결정 사항요? 누군가 어제 그것을 위반했을지도 모릅니다. "라이브러리 X를 절대 사용하지 마세요"라는 규칙요? 주니어 개발자가 오늘 아침 PR(Pull Request)에서 그것을 추가했을지도 모릅니다.

.cursorrules나 CLAUDE.md와 같은 정적 메모리 파일은 작성하는 순간 바로 노후화(stale)됩니다. 그리고 노후화된 정보는 정보가 없는 것보다 더 나쁩니다. AI를 적극적으로 오도하기 때문입니다.

통찰: 메모리에는 증거가 필요하다

REI에서 AI 플랫폼을 구축하면서(자체 호스팅된 Ollama 모델을 사용하는 AI Nexus, 그리고 OpenAI를 사용하는 GSA Virtual Helpdesk Chatbot), 저는 중요한 것을 배웠습니다:

AI 모델은 당신이 제공하는 정보만큼만 신뢰할 수 있습니다.

GPT-5, Claude 5, 심지어 곧 출시될 GPTs까지—그들은 모두 믿을 수 없을 정도로 강력합니다. 하지만 시대에 뒤떨어진 컨텍스트를 제공하면, 그들은 자신 있게 틀린 코드를 생성할 것입니다.

저는 모든 메모리가 여전히 사실임을 증명할 수 있는 시스템이 필요했습니다.

AI Dimag 구축하기

저는 지난 몇 달 동안 AI Dimag을 구축하는 데 시간을 보냈습니다. 핵심 아이디어는 단순하지만 강력합니다:

모든 메모리는 재검증되는 반증 가능한 증거(falsifiable evidence)를 포함합니다.

작동 방식은 다음과 같습니다:

dim remember "모든 DB 접근은 src/db/store.ts를 통해 이루어져야 합니다" \
  -k INVARIANT \
  -e "STATIC_CHECK:grep -rL 'store.ts' src --include=*.ts"

이 메모리는 증거로서 셸 명령(shell command)을 포함합니다. dim verify를 실행하면 해당 명령어를 다시 실행합니다. 만약 누군가 다른 곳에서 데이터베이스에 직접 접근하는 코드를 추가했다면, 증거 검증이 실패하며 해당 메모리는 **오래된 상태(STALE)**가 됩니다.

다섯 가지 증거 유형

소프트웨어 개발에서 실제로 중요한 요소들을 바탕으로 다섯 가지 증거 유형을 설계했습니다:

1. STATIC_CHECK - 코드 패턴을 검증하는 셸 명령(shell commands)
2. TEST_RESULT - 반드시 통과해야 하는 단위/통합 테스트(unit/integration tests)
3. COMMIT_REF - 특정 커밋(commits)에 고정되어 드리프트(drift)를 감지
4. EXEC_TRACE - 런타임 동작(runtime behavior) 검증
5. HUMAN_ATTESTED - 신뢰도 감쇠(confidence decay)가 적용된 수동 확인

각 유형은 서로 다른 목적을 수행하지만, 모두 동일한 질문에 답합니다: "이것이 여전히 사실인가?"

인간이 승인하는 캡처 (Human-Gated Capture)

여기 또 다른 중요한 통찰이 있습니다: 모든 것이 메모리가 되어서는 안 된다는 점입니다.

AI Dimag은 사용자의 커밋(commits), PR, AI 채팅 기록을 탐색하여 제안(proposals)을 생성합니다. 하지만 사용자가 검토하고 승인하기 전까지는 그 어떤 것도 메모리에 들어가지 않습니다.

dim review  # 대화형 승인 워크플로우 (Interactive approval workflow)

시스템은 신뢰도 점수(confidence score)에 따라 제안을 자동으로 분류(auto-triages)합니다. 신뢰도가 높은 항목들은 일괄 승인할 수 있습니다:

dim review approve all --min-score 0.7

이는 쓰레기 데이터의 축적을 방지하고 메모리의 높은 품질을 유지하도록 보장합니다.

모든 AI 도구와 호환

저는 특정 AI 도구가 승리할 것에 도박을 걸고 싶지 않았습니다. 그래서 AI Dimag은 두 가지 방식으로 작동합니다:

MCP 호환 도구용 (Claude, Cursor):

• Model Context Protocol (MCP)을 통한 실시간 메모리
• memory_search, memory_propose, memory_critique와 같은 도구 활용
• 세션 시작 시 브리핑 및 세션 종료 시 추출

비(非) MCP 도구용 (Copilot, Windsurf):

• 정적 컨텍스트 파일 생성 (.cursorrules, CLAUDE.md, AGENTS.md)
• --auto 플래그를 통한 자동 새로고침
• 검증된 메모리(verified memory)를 통해 항상 최신 상태 유지

팀 동기화 (Team Sync): 공유 지식 그래프 (Shared Knowledge Graphs)

개별 메모리는 강력하지만, 팀 메모리는 혁신적입니다.

AI Dimag은 로컬 우선(local-first) 팀 동기화 기능을 포함합니다:

dim serve    # 동기화 서버 시작
dim sync     # 팀과 동기화

주요 기능:

• 기기 코드 로그인 (비밀번호 저장 없음)
• 브레인 범위 지정 API 키 (Brain-scoped API keys)
• 기기 간 검증 합의 (Cross-machine verification consensus)
• 증거 신뢰 게이트 (Evidence trust gates) (신뢰할 수 없는 셸 명령어를 절대 자동 실행하지 않음)

팀이 AI Dimag을 사용하면, 여러분은 **공유 지식 그래프 (shared knowledge graph)**를 구축하게 됩니다. 모든 에이전트가 함께 똑똑해집니다.

기술 스택 (The Tech Stack)

기술적인 호기심이 있는 분들을 위해:

TypeScript/Node.js - 빠르고 크로스 플랫폼을 지원하는 CLI
SQLite (sqlite-vec 포함) - 하이브리드 FTS5 + 벡터 KNN 검색
MCP SDK - Claude, Cursor 등과의 통합
OpenAI/Ollama 임베딩 (embeddings) - 선택 사항 (임베딩 없이 키워드 전용으로도 작동 가능)
Better-sqlite3 - 동기식, 임베디드 데이터베이스

전용 벡터 데이터베이스 대신 SQLite를 선택한 이유는 다음과 같습니다:

1. 설정이 필요 없음 (Zero configuration)
2. 오프라인에서 작동
3. CLI 도구에 임베디드 가능

하이브리드 검색 (키워드 + 의미론적 검색)은 코드에 대해 더 나은 성능을 발휘합니다.

향후 계획 (What's Next)

AI Dimag은 초기 단계이지만, 로드맵은 명확합니다:

단기 계획:

• 더 많은 AI 도구 통합 (JetBrains, Zed, Neovim)
• 강화된 팀 기능 (SSO, 감사 로그, RBAC)
• VS Code/IntelliJ 확장 프로그램 개선

중기 계획:

• 스킬 라이브러리 (단순한 사실을 넘어 재사용 가능한 절차)

가드레일 강제 적용 (Guardrails enforcement, pre-commit hook을 통한 행동 규칙 설정)

지식 인박스 (Knowledge inbox, 설계 문서, ADR, PDF 자동 요약)

장기 계획:

• 모든 도메인에 걸친 검증된 AI 메모리를 위한 표준 프로토콜
• 팀 지식 그래프 (Knowledge graphs) 및 AI 워크플로우를 위한 플랫폼
• 규제 산업을 위한 엔터프라이즈 기능

직접 시도해 보세요
AI Dimag은 오픈 소스입니다 (Elastic License 2.0, 10명 이하의 팀은 무료).

설치:

npm install -g aidimag

빠른 시작:

cd your-repo
dim init
dim bootstrap  # LLM이 저장소를 조사합니다
...

링크:

📚 Docs: https://aidimag.com

💻 GitHub: https://github.com/anup-khanal/aidimag

💬 Discord: https://discord.gg/86tQFcXQY

📦 npm: npm install -g aidimag

더 큰 그림

우리는 변곡점에 서 있습니다. AI 코딩 에이전트 (AI coding agents)는 필수적인 개발 도구가 되어가고 있습니다. 하지만 검증된 메모리 (Verified memory)가 없다면, 이들은 마치 기억상실증에 걸린 개발자와 같습니다. 순간적으로는 강력하지만, 세션이 바뀌면 무용지물이 됩니다.

저는 AI Dimag을 AI 네이티브 개발 시대를 위한 메모리 계층 (Memory layer)으로 구축했습니다. 단 하나의 도구를 위한 것이 아니라, 생태계 전체를 위한 것입니다.

AI 에이전트를 활용해 개발하고 계신다면, 여러분의 피드백을 듣고 싶습니다. 여러분의 AI는 무엇을 잊어버리나요? 무엇이 이 도구를 더 유용하게 만들 수 있을까요?

댓글을 남기거나 연락해 주세요. AI 지원 개발의 미래를 함께 만들어 갑시다.