LangGraph를 사용하여 DevOps 에이전트 (DevOps Copilot)를 구축하던 중, 정말 짜증 나는 문제에 직면했습니다.

제 에이전트는 실제로 꽤 똑똑했습니다. 서버 오류를 디버깅하고, 스크립트를 작성하며, 복잡한 DevOps 문제를 해결할 수 있었습니다. 하지만 큰 문제가 하나 있었습니다. 새로운 세션이 시작될 때마다 에이전트가 기본적으로 모든 것을 잊어버린다는 점이었습니다.

예를 들어, 저는 Coolify가 시스템 서비스가 아니라 Docker 데몬(Docker daemon) 위에서 실행되는 Docker 컨테이너라는 사실을 여러 번 설명해야 했습니다.

새로운 프롬프트를 시작하거나 새로운 작업을 할 때마다, 에이전트는 기본 LLM 학습 데이터로 돌아가 systemctl을 사용하여 Coolify를 관리하려고 시도했습니다. 정말 좌절스러운 상황이었습니다.

토큰 낭비의 함정 (The Token-Wasting Trap)
에이전트에게 "메모리 (Memory)"를 부여하기 위한 표준적인 조언은 단순히 채팅 기록을 LLM 컨텍스트 (Context)로 다시 전달하는 것입니다. 하지만 LangGraph나 LangChain을 사용하여 복잡한 순환 워크플로우 (Cyclical workflows)를 구축하고 있다면, 가공되지 않은 대화 기록을 반복해서 전달하는 방식은 확장성 (Scale)이 떨어집니다.

1. 엄청난 양의 토큰 (Tokens)을 낭비합니다.
2. 컨텍스트 윈도우 (Context window)가 결국 넘쳐버립니다.
3. "건초더미 속의 바늘 (Needle in a haystack)" 문제가 발생합니다. 즉, 에이전트가 거대한 역사적 텍스트의 벽으로부터 특정 교훈을 추출하는 데 실패하게 됩니다.

저는 생각하기 시작했습니다. 오래된 기록을 반복해서 보내는 대신, 에이전트가 이전의 실패로부터 배운 교훈을 영구적으로 유지하게 만들 수는 없을까?

Experia 소개: 인지 메모리 계층 (Cognitive Memory Layer)

저는 제 Copilot 프로젝트 내부에 작은 "경험 시스템 (experience system)"을 직접 구축하기로 했습니다. 아이디어는 간단했습니다. 에이전트가 어떤 행동을 시도할 때 그 결과를 관찰하는 것입니다. 만약 실패한다면, 왜 실패했는지 분석하고, 일반화된 교훈을 추출하여 저장합니다. 다음에 에이전트가 유사한 작업에 직면하면, 관련 있는 교훈만을 시스템 프롬프트 (system prompt)에 주입합니다.

이 방식이 매우 효과적이었기에 이를 별도로 추출하기로 결정했습니다. 그렇게 Experia가 탄생했습니다.

Experia는 AI 에이전트를 위한 오픈 소스 인지 경험 계층 (cognitive experience layer)입니다. 이는 여러분의 오케스트레이터 (orchestrator, 예: LangGraph, CrewAI 등)를 대체하지 않습니다. 대신, 행동, 실패, 그리고 결과를 포착하여 이를 재사용 가능한 교훈과 포괄적인 전략으로 증류 (distill)하는 플러그인 역할을 합니다.

작동 원리 (내부 구조)

Experia는 지속적인 학습 루프 (continuous learning loop)를 기반으로 작동합니다:

• 관찰 (Observation): 에이전트가 행동을 수행합니다 (예: systemctl status coolify 실행).
• 결과 (Result): 터미널이 에러를 반환합니다 (Unit coolify.service could not be found).
• 평가 (Evaluation): LLM 평가기 (LLM Evaluator)가 실패를 분석하고 교훈을 추출합니다 ("Coolify는 systemd 서비스가 아니라 Docker 컨테이너로 실행됩니다").
• 검색 (Retrieval): 다음 실행 시, ExperiaContextNode가 사용자의 의도에 따라 이 특정 교훈을 검색하여 에이전트가 다시 행동하기 전에 주입합니다.

"학습"과 "행동"을 분리함으로써, 우리는 에이전트에게 진정으로 확장 가능한 메모리 기반을 제공합니다.

결과

이 로직을 독립된 패키지로 옮긴 후, 저는 DevOps Copilot 프로젝트에서 약 600줄에 달하는 커스텀된 지저분한 코드를 삭제할 수 있었습니다. 이제 Copilot은 단순히 Experia SQLite 저장소에 연결하기만 하면 되며, 메모리 관리는 완전히 즉시 사용 가능한 (out of the box) 상태로 처리됩니다.

저는 이에 대한 가장 완벽한 아키텍처(architecture)를 여전히 탐구하고 있습니다. 특히 멀티 에이전트 공유 경험(multi-agent shared experiences)(예: Researcher 에이전트가 Coder 에이전트와 학습 내용을 공유하는 경우)에 관한 부분 말입니다.

만약 여러분이 LangGraph 또는 LangChain 에이전트를 구축하면서 에이전트 건망증(agent amnesia) 문제로 어려움을 겪고 있다면, 특히 경험 점수 산정(experience scoring), 망각 전략(forgetting strategies), 그리고 멀티 에이전트 공유(multi-agent sharing)에 관한 피드백을 적극적으로 환영합니다.

Repo: https://github.com/irzix/experia