메모리는 에이전트가 대화를 이어가도록 돕습니다. RAG는 관련 외부 지식을 검색합니다. 이들은 서로 다른 문제를 해결하며, 서로 다른 위험을 도입하고, 종종 함께 작동합니다.
AI 에이전트 메모리는 대화 또는 작업 상태를 보존하며, 검색 증강 생성(RAG)은 관련 외부 지식을 검색합니다.
다음 턴이 동일한 상호작용에서 이전에 발생한 내용에 의존할 때는 메모리를 사용합니다. 답변이 대화 외부의 정책, 매뉴얼 또는 기타 소스에 의존하는 경우에는 RAG를 사용합니다. 어느 메커니즘도 권한을 부여하거나, 사실을 증명하거나, 시스템 기록(system-of-record) 조회를 대체하지는 않습니다.
핵심 요약 (Key takeaways)
- 메모리는 “이 상호작용에서 무슨 일이 일어났나요?”에 답하고, RAG는 “지금 어떤 외부 소스가 관련성이 있나요?”에 답합니다.
- 긴 채팅 기록 자체가 신뢰할 수 있는 지식 기반은 아니며, 벡터 스토어도 대화 상태가 아닙니다.
- 잔액(balances), 권한(permissions), 예약(bookings) 및 기타 트랜잭션의 진실을 위해서는 명시적인 시스템 기록을 사용해야 합니다.
- 메모리와 색인된 문서에 각각 보존(retention), 접근(access), 삭제(deletion) 규칙을 별도로 적용해야 합니다.
- 세션 격리, 검색 관련성, 접지(grounding) 및 오래된 소스 동작(stale-source behaviour)을 테스트해야 합니다.
메모리와 RAG는 서로 다른 컨텍스트 문제를 해결합니다
언어 모델은 현재 요청과 함께 제공된 컨텍스트를 처리합니다. 메모리와 RAG는 그 컨텍스트를 구성하는 두 가지 방법이지만, 하나로 모호하게 “에이전트의 뇌”처럼 병합해서는 안 됩니다.
메모리는 일반적으로 선택된 메시지, 요약 또는 작업 상태를 여러 턴에 걸쳐 전달합니다. RAG는 외부 컬렉션을 검색하여 현재 질문과 가장 관련성이 높은 청크(chunks)를 제공합니다. 세 번째 범주인 라이브 도구 및 시스템 기록은 계정 상태, 재고, 예약 또는 권한과 같은 트랜잭션 사실을 검색합니다.
| 차원 (Dimension) | 에이전트 메모리 (Agent memory) | RAG | 라이브 도구 또는 시스템 기록 (Live tool or system of record) |
|---|
| 주요 질문 (Primary question) | 이전에 무슨 일이 일어났나요? | 어떤 문서가 관련성이 있나요? | 지금 무엇이 사실인가요? |
세 가지 컨텍스트 계층이 함께 작동하는 방식
Figure 1. AI 에이전트를 위한 컨텍스트 구성 (Context assembly for an AI agent)
• 1. Identity: 요청을 올바른 사용자 및 세션에 연결(Bind)합니다.
• 2. Memory: 관련성 있는 최근 상태만 로드합니다.
• 3. RAG: 메타데이터와 함께 승인된 청크를 검색(Retrieve)합니다.
• 4. Live tools: 필요한 경우 정확한 현재 기록을 조회(Query)합니다.
• 5. Model: 레이블이 지정된 컨텍스트를 기반으로 추론하고 출처를 반환합니다.
• 6. Validate: 스키마(schema), 접지(grounding), 권한을 확인합니다.
• 7. Review: 충돌, 불확실성 또는 민감한 조치에 대해 일시 중지(Pause)합니다.
• 8. Respond: 제어된 분기(controlled branch)를 통해 답변하거나 행동합니다.
메모리(Memory), 검색(retrieval), 라이브 도구(live tools)는 서로 다른 종류의 컨텍스트를 제공합니다. 정책 검증(Policy validation)은 여전히 시스템이 무엇을 할 수 있는지 제어합니다.
텍스트 요약: 이 워크플로우는 요청자를 확인하고 세션을 관리하며, 관련 대화 상태를 선택하고, 승인된 문서를 검색하며, 필요할 때만 라이브 시스템을 조회합니다. 모델은 각 출처를 명확한 레이블과 함께 받습니다. 검증 및 승인은 최종 응답이나 행동 이전에 발생합니다.
4주 라이브 부트캠프 · 바르셀로나 또는 온라인
하나의 워크플로우에서 완전한 AI 자동화 시스템으로 나아가기
AI 에이전트 & 자동화 부트캠프에서는 n8n, RAG, 연결된 에이전트 및 인간 승인 기능을 갖춘 노코드(no-code) 가상 AI 부서를 실습합니다. 강사와 소규모 그룹의 지도 아래 진행됩니다.
부트캠프 프로그램 확인하기 →
적합한지 확신이 서지 않나요? 무료 AI 커리어 로드맵 테스트를 받아보세요
에이전트 메모리(Agent Memory)는 언제 사용해야 할까요?
상호 작용의 연속성(continuity)이 향상될 때 메모리를 사용하세요. 예를 들어, 사용자가 어떤 제품에 대해 논의하고 있는지, 어떤 명확화가 이미 답변되었는지, 또는 다단계 작업의 어느 단계가 완료되었는지를 기억하는 경우입니다. 저장된 상태는 가능한 한 작고 명시적(explicit)으로 유지해야 합니다.
- 단기 창(Short-term window): 최근 메시지의 제한된 수입니다. 간단하지만 오래된 세부 정보는 사라지고 긴 대화는 비용이 많이 듭니다.
- 대화 요약(Conversation summary): 이전 턴의 압축된 표현입니다. 효율적이지만 잘못된 요약은 지속될 수 있습니다.
- 구조화된 작업 상태(Structured task state): 선택된 위치, 확인된 날짜 또는 누락된 데이터와 같은 명명된 필드입니다. 일반적으로 모델에게 산문에서 상태를 재발견하도록 요청하는 것보다 안전합니다.
- 더 오래 지속되는 선호도(Longer-lived preferences): 목적, 동의 또는 기타 근거, 보존 및 사용자 제어가 명확할 때만 해당됩니다.
n8n 문서는 구성 가능한 채팅 기록 창과 영속성을 위한 별도의 메모리 서비스를 제공합니다. 저장소 선택이 정확한 세션 키, 격리 및 보존의 필요성을 제거하지는 않습니다.
RAG를 사용해야 할 때
답변이 프롬프트에 포함하기에는 너무 크거나, 전문적이거나, 자주 업데이트되어 승인된 외부 콘텐츠에 의존하는 경우 RAG를 사용합니다. 수집(ingestion) 워크플로는 문서를 가져와 청크로 분할하고, 임베딩을 생성하며, 메타데이터와 함께 저장합니다. 쿼리(query) 워크플로는 관련성 있는 제한된 청크 세트를 검색합니다.
좋은 메타데이터는 종종 의미적 유사성과 거의 같습니다. 모델에게 답변을 요청하기 전에 제품, 지역, 대상 고객, 정책 버전, 유효 날짜 및 접근 그룹별로 필터링하세요. 매우 유사하지만 만료된 정책도 여전히 잘못된 출처입니다.
RAG는 진실의 보장이 아닙니다
검색 과정에서 최적의 문서를 놓치거나, 관련 없는 청크를 반환하거나, 상충되는 두 가지 버전을 제시할 수 있습니다. 답변은 제공된 증거를 넘어설 수도 있습니다. 검색 관련성과 답변 근거성(answer groundedness)을 별도로 테스트하고, “신뢰할 수 있는 출처 없음” 경로를 제공하세요.
메모리와 RAG 둘 다 밖에 있어야 할 것은 무엇일까요?
- 현재 계좌 잔액, 주문 상태, 재고 및 예약 가능 여부.
- 신원(Identity), 인증(authentication) 및 권한 부여(authorisation) 결정.
- 기록을 전송, 삭제, 구매, 환불 또는 변경할 수 있는 권한.
- 비밀 정보(Secrets) 및 제한 없는 자격 증명(credentials).
- 승인된 검토가 필요한 법률적, 임상적 또는 재정적 결론.
정확한 도구 호출(tool call)을 통해 기록 시스템(system of record)에서 변경되는 거래 사실을 가져옵니다. 작업 연속성 유지를 위해 메모리(memory)를 사용하고, 관련 정책 설명에는 RAG를 사용합니다. 현재 거래에 대한 진실의 원천(source of truth)으로 둘 중 어느 것도 사용하지 마십시오.
올바른 디자인 선택하기
| 사용 사례 | 메모리 (Memory) | RAG | 실시간 도구 (Live tool) |
|---|
| 다중 턴(multi-turn) 상담 지속 | 예, 가급적 구조화된 상태(structured state) | 정책 설명용으로 선택 사항 | 최종 기록 조회 또는 쓰기 |
| ... | | | |
실패 경로 및 테스트
| 테스트 | 예상되는 동작 | 통과 조건 |
|---|
| 유사한 요청을 하는 두 사용자 | 분리된 세션 | 교차 사용자 메모리가 나타나지 않음 |
| ... | | |
성공 기준
- 모든 요청이 올바르게 인증된 세션 및 테넌트 경계(tenant boundary)를 사용합니다.
- 구조화된 작업 상태가 불필요한 녹취록 재생을 대체합니다.
- 검색된 청크에는 문서 ID, 버전 및 접근 메타데이터가 포함됩니다.
- 시스템이 신뢰할 수 있는 출처를 찾지 못했음을 알릴 수 있습니다.
- 거래의 진실은 정확한 실시간 도구에서 나옵니다.
- 메모리와 인덱싱된 지식 모두에 대해 보존 및 삭제 동작을 테스트합니다.
고립된 데모가 아닌 완전한 AI 워크플로우 구축하기
프로덕션 레디 에이전트는 데이터 계약(data contracts), 도구, 적절한 경우의 RAG, 권한, 인간 승인, 평가, 실패 복구 및 모니터링을 필요로 합니다. 바르셀로나 코드 스쿨(Barcelona Code School)의 4주 AI 에이전트 및 자동화 부트캠프는 이러한 요소들을 실시간으로 강사 주도 프로젝트에 통합합니다.
개인 워크플로우 하나만 필요한 경우, 무료 튜토리얼로 충분할 수 있습니다. 이 부트캠프는 실제 업무를 위한 연결된 자동화 시스템을 설계하고 설명하고자 하는 사람들을 위한 것입니다.
AI 에이전트 및 자동화 부트캠프 탐색
자주 묻는 질문 (Frequently asked questions)
AI 에이전트 메모리가 RAG와 같나요?
아니요. 메모리는 상호작용 전반에 걸쳐 대화 또는 작업 상태(conversational or task state)를 유지합니다. RAG는 외부 소스를 검색하여 현재 요청에 관련된 문서 콘텐츠를 제공합니다. 이들은 서로 다른 컨텍스트 문제를 해결합니다.
AI 에이전트가 메모리와 RAG를 함께 사용할 수 있나요?
네. 에이전트는 대화 연속성(conversation continuity)을 위해 메모리를, 승인된 지식(approved knowledge)을 위해 RAG를, 그리고 실시간 거래 데이터(live transactional data)를 위해 정확한 도구(exact tools)를 사용할 수 있습니다. 각 컨텍스트 소스는 별도로 레이블링하고 검증해야 합니다.
벡터 데이터베이스가 AI 에이전트에게 장기 메모리를 제공하나요?
벡터 스토어는 선택된 과거 정보를 포함하여 의미적으로 유사한 저장된 콘텐츠를 검색할 수 있지만, 이것이 신뢰할 수 있는 대화 상태(reliable conversation state)와 동등하다는 것을 의미하지는 않습니다. 무엇을 저장하는지, 어떻게 필터링되는지, 그리고 언제 만료되는지를 정의해야 합니다.
현재 계정 데이터는 메모리나 RAG에 저장되어야 하나요?
보통은 아닙니다. 현재 잔액(Current balances), 주문(orders), 권한(permissions) 및 가용성(availability)은 정확한 조회(exact lookup)를 통해 권위 있는 시스템(authoritative system)에서 제공되어야 합니다. 메모리는 참조(reference)를 유지할 수 있고, RAG는 그 주변의 정책을 설명할 수 있습니다.
메모리와 RAG가 있는 에이전트에서 무엇을 테스트해야 하나요?
세션 격리(session isolation), 상태 업데이트(state updates), 유지(retention), 검색 관련성(retrieval relevance), 메타데이터 필터(metadata filters), 오래되거나 충돌하는 소스(stale and conflicting sources), 근거 기반 답변(grounded answers), 문서 내 프롬프트 주입(prompt injection in documents), 그리고 소스가 없는 경우의 폴백(no-source fallback)을 테스트해야 합니다.
출처 (Sources)
- n8n documentation: 메모리 작동 방식 이해하기.
- n8n documentation: RAG를 사용하여 관련 컨텍스트 검색하기.
- n8n documentation: 벡터를 사용하여 데이터 저장 및 검색하기.
- OpenAI documentation: 파일 검색 기능.
- NIST: AI 위험 관리 프레임워크.
- Barcelona Code School: AI 에이전트 아키텍처 설명.
- Barcelona Code School: AI 에이전트 및 자동화 부트캠프.
학습 계속하기
플랫폼 중립적인 AI 에이전트 구축 가이드로 시작하기
인간 승인 및 실패 복구 추가하기
AI 에이전트 및 자동화 부트캠프 확인하기
원래 [Barcelona Code School]에서 게시됨(https://barcelonacodeschool.com/ai-agent-memory-vs-rag/). barcelonacodeschool.com에서 AI, 코딩 및 디자인 프로그램에 대해 더 알아보세요.