Amazon Bedrock AgentCore 웹 검색: AI 에이전트의 지식 부패를 해결하기 위한 프로덕션 가이드

원문은 twarx.com에서 처음 게시되었습니다 - 전체 인터랙티브 버전은 그곳에서 읽을 수 있습니다.

최종 업데이트: 2026년 6월 20일

여러분의 프로덕션 AI 에이전트는 고장 난 것이 아닙니다. 그것은 부패하고 있습니다 — 로그에 단 하나의 오류도 남기지 않은 채, 조용하고 자신만만하게 말이죠. **Amazon Bedrock AgentCore 웹 검색 (web search)**이 존재하는 이유는 바로 AWS 엔지니어들이 수백만 개의 기업용 에이전트 쿼리가 실패하는 것을 목격했기 때문입니다. 이는 모델의 결함 때문이 아니라, 죽은 지식(dead knowledge) 때문이었습니다. 실패 데이터를 깊이 파고들수록 상황은 더 명확해졌습니다. 근거(grounded)가 없는 상태로 에이전트가 실행되는 매 시간마다, 에이전트가 알고 있는 것과 실제 사실 사이의 간극은 점점 더 벌어지며, 대부분의 팀은 컴플라이언스 감사관이 지적하기 전까지는 이를 전혀 인지하지 못합니다.

Amazon Bedrock AgentCore 웹 검색은 여러분의 AWS VPC 내부에서 에이전트 추론(inference) 단계에 실시간으로 인용된 웹 콘텐츠를 주입하는 완전 관리형 근거 생성(grounding) 도구입니다. 이는 AgentCore 브라우저 도구(Browser Tool)와는 구별되며, 팀들이 OpenAI, Anthropic, LangGraph 또는 n8n을 사용하여 임시방편으로 구축하는 DIY 웹 검색 스택과는 다릅니다. 규제 대상 기업들이 1세대 에이전트를 컴플라이언스 리스크로 간주하고 있다는 점에서, 이 도구는 지금 매우 중요합니다.

이 가이드를 마칠 때쯤이면 여러분은 실패 모드를 이해하고, 프로덕션 환경에서 웹 근거 생성(web grounding)을 구현하는 방법을 알게 되며, 정확히 언제 이 도구를 사용하지 말아야 하는지에 대한 명확한 그림을 갖게 될 것입니다.

핵심 실패 사례 시각화: 근거가 없는 Bedrock 에이전트는 오래된 학습 데이터 차단 시점(training cutoff)을 바탕으로 자신 있게 답변하는 반면, 웹 근거가 있는 AgentCore 에이전트는 실시간 사실을 검색하고 인용합니다 — 이것이 바로 지식 부패 함정(Knowledge Decay Trap)의 핵심입니다.

여러분이 배포한 모든 AI 에이전트가 이미 실패하고 있는 이유는 무엇인가요?

대부분의 ML 팀이 거부하는 직관에 반하는 진실이 여기 있습니다. LLM 에이전트를 프로덕션(Production) 환경에 배포하는 날은 그 정확도가 떨어지기 시작하는 날입니다. 모델 자체의 가중치(Weight)는 단 하나도 변하지 않는데 말이죠. 이러한 저하(Decay)는 파라미터(Parameter)에서 발생하는 것이 아닙니다. 고정된 학습 컷오프(Training Cutoff)와, 멈춰 있기를 거부하는 세상 사이에서 벌어지는 점점 더 커지는 델타(Delta, 차이)에서 발생합니다. 예를 들어, 화요일에 규정이 바뀌었는데도 법무팀에서 알아차릴 때까지 여러분의 에이전트는 아주 침착하게 작년 버전을 계속 인용하는 식입니다.

저는 이 패턴을 명확하게 명명하겠습니다. 이름을 붙이는 것이야말로 마침내 제 고객들이 이를 위한 예산을 편성하게 만든 계기였기 때문입니다. 저는 이를 지식 부패 함정(Knowledge Decay Trap)이라고 부릅니다. 이는 AI 에이전트의 정적인 학습 컷오프가 응답 정확도를 조용히 떨어뜨리고, 사용자 신뢰를 침식하며, 하위 에이전트적 결정(Agentic decisions)이 구식 사실을 바탕으로 연쇄적으로 잘못 내려지게 만드는 복합적인 실패 모드(Failure mode)입니다. 이로 인해 배포 후의 매일은 자산이 아닌 부채(Liability)가 됩니다. 이것이 바로 근거가 없는(Ungrounded) 에이전트들이 기대에 미치지 못하는 구조적인 이유입니다. 모델은 괜찮습니다. 다만 그 지식이 이미 변해버린 세상의 사진일 뿐입니다. 시스템 충돌이나 500 에러와 달리, 이는 매우 자신감 있게 조용히 실패하며, 바로 이 점이 이를 위험하게 만듭니다. 더 넓은 연구 커뮤니티에서도 이러한 드리프트(Drift)를 기록해 왔습니다. 검색 기반 언어 모델(Retrieval-grounded language models)에 관한 Google의 연구와 Stanford의 HELM 벤치마크 모두 시간적 노후화(Temporal staleness)를 1차적인 신뢰성 문제로 지적하고 있습니다.

지식 부패 함정이란 무엇이며, 왜 매일 악화되는가?

2025년 1월에 2024년 중반의 지식 컷오프(cutoff)를 가진 모델로 배포된 에이전트는 배포 첫날부터 규제 변화, 시장 변동, API 지원 종료(deprecation) 측면에서 이미 6개월 뒤처져 있습니다. 9개월 차가 되면 그 격차는 1년 이상으로 벌어집니다. 이 함정은 에이전트 시스템이 의사결정을 연쇄적으로 수행(chaining)하기 때문에 더욱 심화됩니다. 하나의 오래된 사실이 다음 행동의 전제가 되고, 그 오류가 워크플로(workflow) 전체로 폭포수처럼 전파(cascade)됩니다. 이것이 멀티 에이전트 시스템 (multi-agent systems)을 구축하는 팀들이 부패(decay)가 평균화되는 것이 아니라 오히려 증폭되는 것을 목격하는 이유입니다. 검색 증강 시스템(retrieval-augmented systems)에 관한 드리프트(drift) 관련 문헌들이 이를 뒷받침합니다. 지식 집약적 작업에서 파라미터 지식(parametric knowledge)만으로는 왜 취약한지에 대해 설명한 Lewis 등의 기초적인 RAG 논문 (2020)을 참고하십시오.

프로덕션 에이전트 시스템에서 오래된 응답이 초래하는 숨겨진 비용은 무엇인가?

비용은 재앙적인 상황이 닥치기 전까지는 보이지 않는 상태로 유지됩니다. 근거가 없는(ungrounded) Bedrock 에이전트로 구동되는 한 금융 서비스 챗봇이 1분기 실적 시즌에 3분기 수익 데이터를 제공한 사례가 기록되었습니다. 이는 숫자를 환각(hallucination)했기 때문이 아니라, 해당 데이터가 모델의 학습 세트 내에서 실제로 가장 최신 데이터였기 때문입니다. 이후 컴플라이언스(compliance) 검토 단계로 에스컬레이션(escalation)되었고, 서비스 배포는 중단되었습니다. AgentCore 출시 포스트에서 언급된 내부 AWS 벤치마크에 따르면, 근거가 있는(grounded) 에이전트는 최신 사건 관련 질의에서 근거가 없는 에이전트보다 40% 이상 높은 성능을 보입니다. Caylent의 클라우드 전략 부사장(VP)이자 전 AWS 시니어 테크니컬 에반젤리스트(Senior Technical Evangelist)인 Randall Hunt는 에이전트 신뢰성에 관한 강연에서 다음과 같이 직설적으로 말했습니다. 가장 까다로운 프로덕션 실패는 예외(exception)를 발생시키지 않는 실패라고 말입니다. 바로 이것이 그러한 실패의 전형입니다.

당신의 AI 에이전트는 배포된 날부터 실패하기 시작했습니다. 모델은 문제가 없습니다. 세상이 변했을 뿐이고, 아무도 가중치(weights)에게 그 사실을 알려주지 않았습니다.

왜 RAG만으로는 실시간 정보 부재(Real-Time Blindness)로부터 당신을 구할 수 없는가?

이것이 바로 프로덕션 배포를 망가뜨리는 차이점입니다. Pinecone 또는 Weaviate와 같은 벡터 데이터베이스 (Vector Database)를 사용하는 RAG는 문서 검색 (Document Retrieval) — 즉, 귀하의 독점적인 PDF, 계약서 및 지식 베이스를 컨텍스트 (Context)로 가져오는 문제를 해결합니다. 하지만 실시간 웹 지식 (Live Web Knowledge) 문제는 해결하지 못합니다. 만약 어제 규정이 변경되었는데 귀하의 벡터 DB가 지난달에 인덱싱(Indexed)되었다면, RAG는 완벽한 확신을 가지고 귀하의 오래된 내부 해석을 검색해 올 것입니다. 저는 처음에 재청킹 (Re-chunking)과 더 나은 임베딩 (Embeddings)이 이 격차의 대부분을 메울 수 있을 것이라고 가정했습니다. 하지만 세 곳의 별도 엔터프라이즈 배포 데이터는 그렇지 않다고 말해주었습니다. 어제의 뉴스를 포함하고 있지 않은 코퍼스 (Corpus)를 검색 튜닝 (Retrieval Tuning)만으로는 고칠 수 없습니다. 검색 증강 생성 (Retrieval-augmented generation, RAG)과 웹 그라운딩 (Web Grounding)은 상호 보완적인 계층이지, 대체재가 아닙니다.

40% 이상
최신 사건 쿼리에 대해 그라운딩(Grounded)된 에이전트가 그라운딩되지 않은 에이전트보다 높은 정확도 향상
[출처: AWS Machine Learning Blog, AgentCore 웹 검색 출시, 2025](https://aws.amazon.com/blogs/machine-learning/introducing-web-search-on-amazon-bedrock-agentcore/)
...

Amazon Bedrock AgentCore 웹 검색은 실제로 무엇인가 (마케팅에서 말하는 것이 아닌)?

출시 포스트의 미사여구를 걷어내 봅시다. Amazon Bedrock AgentCore 웹 검색은 실시간 웹 콘텐츠를 검색하여 에이전트 추론 (Inference) 시 그라운딩된 컨텍스트 (Grounded Context)로 주입하는 완전 관리형 도구입니다. 그것이 이 도구의 역할 전부입니다. 브라우징을 하거나, 클릭을 하거나, 양식을 작성하지 않습니다. 사실에 기반한 실시간 콘텐츠를 검색하고 출처 속성 (Source Attribution)을 첨부하여 모델에 전달할 뿐입니다. 공식 AWS Bedrock Agents 문서에는 이 도구가 에이전트 액션 루프 (Agent Action Loop)에 어떻게 연결되는지 상세히 설명되어 있습니다.

실시간 그라운딩 (Real-Time Grounding)은 브라우저 도구 (Browser Tool)와 아키텍처 측면에서 어떻게 다른가?

에이전트가 web_search 도구를 호출하면, AgentCore는 쿼리를 발행하고, 순위가 매겨진 웹 콘텐츠를 검색하며, 이를 AWS 인프라 내부에서 처리한 후, 최종 추론 단계(inference pass) 이전에 구절(passages)과 소스 URL을 모델의 컨텍스트 윈도우(context window)로 반환합니다. 그러면 모델은 고정된(frozen) 사실 대신 현재(current) 사실을 바탕으로 추론합니다. 이 과정에서 지연 시간(latency)이 추가되는데, 일반적으로 1초 미만에서 수 초 정도의 검색 홉(retrieval hop)이 발생합니다. 이것이 바로 단일 턴 그라운딩(single-turn grounding)이 프로덕션 환경에 적합한 최적의 지점(sweet spot)인 이유입니다. 멀티 홉 반복 검색(Multi-hop iterative search)은 이야기가 다릅니다. 그 부분은 나중에 다루겠습니다.

AgentCore 웹 검색(Web Search) vs 브라우저 도구(Browser Tool): 개발자들이 혼동하는 차이점은 무엇인가?

2025년 초에 발표된 AgentCore 브라우저 도구(Browser Tool)는 에이전트가 웹 UI를 탐색하고 상호작용할 수 있게 해줍니다. 즉, 로그인, 클릭, 동적 앱에서의 데이터 추출 등이 가능합니다. 반면 AgentCore 웹 검색(Web Search)은 그라운딩(grounding)을 위해 사실에 기반한 실시간 콘텐츠를 검색합니다. 이 둘을 혼동하면 과도하게 설계되고 비용이 과다 청구되는 에이전트 스택을 구축하게 됩니다. 검색 검색(search retrieval)을 통해 아주 적은 비용과 지연 시간으로 그라운딩할 수 있는 질문에 답하기 위해, 팀들이 전체 브라우저 자동화(browser automation)를 가동하게 되는 것입니다. 제가 검토한 모든 프로덕션 배포 사례에서, 팀들이 조용히 예산을 낭비하는 지점이 바로 여기였으며, 월간 Bedrock 청구서가 도착하기 전까지는 이를 알아차리지 못합니다.

만약 에이전트가 현재의 사실을 알아야(know) 한다면, 웹 검색(Web Search)을 사용하십시오. 만약 웹 앱 내부에서 무언가를 수행(do) 해야 한다면, 브라우저 도구(Browser Tool)를 사용하십시오. 사실 관계 쿼리에 답하기 위해 브라우저 도구를 연결한 팀들은 정확도 향상 없이 쿼리당 비용이 3~5배 더 높게 나타난다고 보고했습니다.

제로 데이터 이그레스(Zero Data Egress)와 인용된 소스는 기업의 컴플라이언스(Compliance)를 어떻게 변화시키는가?

제로 데이터 이그레스(Zero Data Egress) 아키텍처는 검색된 웹 콘텐츠가 AWS 인프라 내에서 처리됨을 의미합니다. 즉, 콘텐츠가 제3자 검색 제공업체로 이동하여 귀하의 VPC 경계를 벗어나지 않습니다. HIPAA, FedRAMP 및 GDPR 규제를 받는 배포 환경에서 이는 선택 사항이 아니라 필수 요구 사항입니다. 마찬가지로 중요한 점은 인용된 소스 출처(cited source attribution)가 내장되어 있다는 것입니다. 기업 조달 팀이 에이전트 배포를 거부하는 가장 큰 이유는 '이 답변이 어디에서 왔는가?'라는 질문에 답할 수 없기 때문입니다. 내장된 인용 기능은 감사 불가능한 블랙박스(black box)를 방어 가능한 기록 시스템(system of record)으로 전환합니다. 먼저 시작하고 싶다면, 저희의 twarx.com/agents에 있는 프로덕션 에이전트 템플릿에는 인용 로깅(citation logging)이 기본적으로 연결되어 제공됩니다.

기업들이 AI 에이전트를 거부하는 이유는 답변이 틀렸기 때문이 아닙니다. 답변이 어디에서 왔는지 아무도 증명할 수 없기 때문입니다. 인용은 단순한 기능이 아니라, 시장 진입을 위한 입장권입니다.

AgentCore 웹 검색(사실적 근거 설정(factual grounding), 제로 이그레스) 대 AgentCore 브라우저 도구(UI 상호작용) — 이 차이가 귀하의 에이전트 스택이 효율적인지 아니면 과도한 비용이 발생하는지를 결정합니다.

왜 OpenAI, Anthropic, LangGraph는 이를 동일한 방식으로 해결하지 못했는가?

모든 주요 플레이어들이 웹 근거 설정(web grounding)으로 수렴하고 있습니다. 차이점은 아키텍처(architecture)에 있으며, AWS를 사용하는 기업들에게 아키텍처는 곧 운명입니다.

OpenAI Responses API 대 AgentCore: 관리형 인프라인가, 아니면 DIY 통합인가?

OpenAI's Responses API의 네이티브 웹 검색 (native web search)은 모델과 결합되어 있으며, 정의상 귀하의 AWS VPC를 벗어납니다. 즉, 데이터가 OpenAI의 인프라로 이동한다는 의미입니다. 이미 Bedrock을 사용 중인 팀에게 이는 이중 벤더 컴플라이언스 (dual-vendor compliance) 및 지연 시간 (latency) 문제를 야기합니다. 두 번의 데이터 유출 검토 (egress reviews), 두 개의 데이터 처리 합의 (data processing agreements), 그리고 제어된 환경 밖으로 나가는 네트워크 왕복 (network round-trip)이 발생합니다. 이는 이론적인 우려가 아닙니다. 구매 부서(Procurement)에서 반드시 문제를 제기할 것입니다.

Anthropic Claude와 웹 도구: AWS에서의 MCP 격차(Gap)란 무엇인가?

Bedrock 상의 Anthropic's Claude는 MCP (Model Context Protocol) 도구 사용을 지원하지만, MCP 기반의 웹 검색을 위해서는 팀이 직접 MCP 서버를 구축, 호스팅 및 보안 관리해야 합니다. 이는 가동 시간 (uptime), 확장 (scaling), 패치 (patching), 그리고 이제 직접 책임져야 하는 새로운 공격 표면 (attack surface)과 같은 실제적인 인프라 부담을 의미합니다. AgentCore 웹 검색은 그 자체로 관리형 도구 (managed tool)가 됨으로써 이러한 부담을 완전히 제거합니다. MCP는 맞춤형 내부 도구에는 여전히 훌륭하지만, AWS 상에서 실시간 웹 그라운딩 (live web grounding)을 구현하는 데 있어서는 관리형 경로가 운영 비용 측면에서 매번 승리합니다.

LangGraph, AutoGen, 그리고 CrewAI: 왜 이들은 그라운딩 (Grounding)을 사용자에게 맡기는가?