MANDATE 구축하기: FalkorDB를 활용한 다중 에이전트 인식론적 메모리, 무효화 및 보호된 복구

WeMakeDevs Graph Hacks Hackathon의 Track 2 (다중 에이전트 아키텍처 및 메모리) 및 Track 3 (Human-in-the-Loop 및 상호 작용 시스템)에 제출됨.

1. 다중 에이전트 AI 시스템의 핵심 딜레마

자율 AI 에이전트는 규제 정책 감사, 기업 데이터 파이프라인 질의, 복구 실행 등 복잡한 엔터프라이즈 환경 운영 임무를 맡게 되면서 그 역할이 점점 커지고 있습니다. 하지만 실제 프로덕션 환경에서 다중 에이전트 워크플로우는 세 가지 치명적인 벽에 부딪힙니다:

1. 컨텍스트 윈도우 기억 상실 및 단절된 세션: 에이전트 세션 A가 시스템을 감사하고 종료될 때, 에이전트 세션 B는 세션 A의 사실적 전제 조건에 대해 네이티브한 가시성을 전혀 갖지 못합니다. 대화형 요약본에 의존하는 것은 미묘한 환각(hallucinations)과 손실된 인식론적 종속성(epistemic dependencies)을 초래합니다.
2. 무효화 과정 중 치명적인 망각 (Catastrophic Forgetting): 엔지니어링 증거가 변경될 때(예: SSO 우회 방식이 도입됨), 일반적인 벡터 임베딩이나 RAG 파이프라인은 영향을 받은 주장만을 선택적으로 무효화하는 데 실패합니다. 이들은 다운스트림 가정을 업데이트하지 못하거나, 관련 없는 완벽하게 유효한 결론까지 지워버립니다.
3. 보호되지 않은 자율적 변형 (Unguarded Autonomous Mutations): LLM 에이전트에게 프로덕션 인프라에 대한 직접적인 쓰기 권한을 허용하는 것은 용납할 수 없습니다. 반대로, 전통적인 Human-in-the-loop 메커니즘은 경쟁 조건(race conditions), 좀비 워커 덮어쓰기, 상태 표류(state drift) 등의 문제점을 안고 있습니다.

이 문제를 해결하기 위해, 우리는 FalkorDB를 기반으로 하는 인식론적 그래프 네이티브 거버넌스 엔진인 MANDATE를 구축했습니다.

2. 왜 FalkorDB인가?

인식론적 다중 에이전트 메모리를 설계할 때, 관계형 데이터베이스는 고통스러운 재귀 CTE(Common Table Expressions)를 필요로 하며, 벡터 데이터베이스는 명시적인 인과적 엣지(causal edges)가 부족합니다.

우리는 세 가지 결정적인 기술적 역량 때문에 FalkorDB를 선택했습니다:

• 서브밀리초 다중-홉 순회 (Sub-Millisecond Multi-Hop Traversal): 인식론적 의존성 트리([:DEPENDS_ON_PREMISE*1..4])는 법규, 기업 주장, 엔지니어링 원격 측정 데이터를 가로질러 즉각적인 재귀 순회를 요구합니다. FalkorDB의 GraphBLAS 희소 행렬 엔진은 마이크로초 단위로 깊은 그래프 쿼리를 실행합니다.
• 단일 쿼리 원자적 복구 (Single-Query Atomic Remediation): FalkorDB를 사용하면 단일 원자적 Cypher 트랜잭션 내에서 단조성(monotonic) 방지 토큰, 암호화된 검토자 승인, 그래프 스키마 변경을 강제할 수 있습니다.
• 다중 테넌트 그래프 네임스페이스 격리 (Multi-Tenant Graph Namespace Isolation): 테넌트를 격리된 FalkorDB 그래프 네임스페이스로 라우팅함으로써 데이터베이스 엔진 수준에서 테넌트 데이터 분리가 보장됩니다.

3. 시스템 아키텍처 및 인식론적 그래프 모델

MANDATE의 핵심은 유형화되고 다중 관계형 속성 그래프입니다:

[법규 조항] <---[:GOVERNED_BY]--- [준수 통제]
                                             ^
                                             | (모니터링)
... 

노드들:

• Provision: 법적 의무 사항(예: 부모 동의를 위한 DPDP Act 2023 Sec 9(1)).
• Control: 모델링된 기업 보안 게이트(예: CTL_VPC_GATE).
• DataFlow: 관찰된 런타임 데이터 스트림(DF_01).
• Claim: 전제로부터 파생된 인식론적 주장(CLM_VPC_01).
• Task 및 ActionProposal: 임대 타이머와 단조성 방지 토큰이 장착된 영속적인 작업자 태스크.
• ApprovalRecord: 인증된 준수 담당자와 연결된 암호화되고 일회용인 서버 서명.

4. 트랙 2: 진정한 크로스 세션 메모리 및 인식론적 무효화

MANDATE는 공유 인메모리 변수 없이 다중 에이전트 메모리를 어떻게 해결할까요?

단계 1: 에이전트 세션 A (콜드 스타트 탐색)

에이전트 A는 전용 Python 프로세스에서 실행되며, DF_01과 CTL_VPC_GATE 사이의 우회 경로(bypass edge)를 발견하고, FAILING_CONTROLS_DETECTED 판결을 계산하며, FalkorDB에 AssessmentConclusion 노드를 작성한 후 완전히 종료됩니다:

Step 2: Agent Session B (선택적 무효화)

Process 2 (Agent B)는 초기 상태에서 시작합니다. FalkorDB에 연결하여 TSK_HANDOFF_01을 복구하고, 격리된 리스(fenced lease)를 확보합니다.

모순되는 엔지니어링 증거(ENG-8419)가 도착하면, Agent B는 **선택적 전제 무효화(selective premise invalidation)**를 트리거합니다:

MATCH (p:Premise {premise_id: $premise_id, tenant_id: $tenant_id})
SET p.status = 'SUPERSEDED'
WITH p
...

🎯 핵심 결과:

• PRM_001에 의존하는 상위 클레임(Upstream claims)은 무효화됩니다.
• 오래된 개선 제안(PROP_REMED_01)은 자동으로 INELIGIBLE_SUPERSEDED로 표시됩니다.
• 독립적인 클레임(예: 결제 암호화 CLM_ENC_04)은 건드리지 않고 유효하게 유지됩니다.
• Agent B는 인간 검토를 위해 전용 태스크인 TSK_BROWSER_REMED_01에 새로운 개선 제안(PROP_REMED_02)을 준비합니다.

5. Track 3: 단일 쿼리 원자적 보호 개선(Single-Query Atomic Guarded Remediation)

MANDATE에서는 어떤 에이전트도 프로덕션 설정을 직접 변경할 수 없습니다. 컴플라이언스 오피서가 웹 콘솔에서 제안을 승인하면, 실행은 **원자적인 Cypher 변형(atomic Cypher mutation)**을 통해 이루어집니다:

MATCH (t:Task {task_id: $task_id, tenant_id: $tenant_id})-[:EXECUTES_PROPOSAL]->(p:ActionProposal {proposal_id: $proposal_id, tenant_id: $tenant_id})
MATCH (p)-[:REMEDIES_CLAIM]->(clm:Claim {tenant_id: $tenant_id})
MATCH (p)-[:BASED_ON_EVIDENCE]->(ev:Evidence {tenant_id: $tenant_id})
...

이것이 모든 것을 바꾸는 이유:

1. 단조적 격리(Monotonic Fencing): 다른 워커가 리스권을 가져갔을 경우(lease_version != fence_token), 쓰기 작업이 실패합니다.
2. 일회용 서명(Single-Use Signature): ApprovalRecord는 정확히 같은 쓰기 작업에서 소모됩니다. 이중 지출될 수 없습니다.
3. 제로 부분 실패(Zero Partial Failures): 어떤 전제 조건이라도 실패하면, 노드나 엣지 중 어느 것도 변형되지 않습니다.

커밋되면, 합성 행동 스위트(synthetic behavioral suite)는 라이브 그래프를 대상으로 모든 8개의 자식 안전 테스트 케이스를 재평가합니다.

• Active Bypasses: 1 -> 0
• Vendor Strict Handshake: false -> true
• Behavioral Suite: 5/8 -> 8/8 PASSED
• Status Badge: MODELED_CONTROL_TESTS_PASS

Agent B는 세션 A와 연결된 새로운 결론 노드를 **[:SUPERSEDES]**를 통해 커밋하며, 끊김 없는 감사 추적(audit trail)을 보존합니다.

6. 학습 내용 및 핵심 시사점 (Key Takeaways)

1. 에이전트 메모리에서 그래프가 필수적인 연결고리입니다: 메모리를 벡터 청크로 표현하는 것은 인과 관계를 무시합니다. 믿음(beliefs)을 의존성 그래프(dependency graphs)로 표현함으로써, 무효화(invalidation)는 결정론적이며 수학적으로 증명 가능해집니다.
2. 원자적 Cypher가 진정한 다중 에이전트 안전성을 제공합니다: 다중 에이전트 아키텍처에서 발생하는 동시성 버그(concurrency bugs)(예: 스플릿 브레인 결정 또는 좀비 워커 쓰기)는 Cypher 조건부 패턴을 사용하여 데이터베이스 엔진 내에서 완전히 해결될 수 있습니다.
3. FalkorDB는 예외적으로 빠릅니다: 테넌트 범위의 ACL 검사(ACL checks)와 함께 복잡한 4-hop 재귀적 무효화(recursive invalidations)를 실행하는 데 로컬 환경에서 일관되게 3밀리초 미만이 소요되었습니다.

7. 링크 및 자료 (Links & Resources)

• 💻 GitHub 저장소: https://github.com/AmanM006/mandate
• ⚡ 데이터베이스: FalkorDB

Python 3.12, FastAPI, Tailwind CSS 및 FalkorDB를 사용하여 WeMakeDevs Graph Hacks Hackathon 2026에서 구축되었습니다.