기업용 AI 환경이 구조적 변화를 겪고 있습니다. 지난 몇 년 동안 엔지니어링 팀은 검색 증강 생성 (RAG, Retrieval-Augmented Generation) 챗봇을 구축하는 데 수백만 달러를 소비해 왔습니다. 이러한 시스템은 내부 위키를 읽고 직원의 질문에 답변하는 데는 탁월하지만, 근본적인 아키텍처적 한계에 직면해 있습니다. 즉, 이들은 정보 엔드포인트 (information endpoints)일 뿐, 워크플로우 엔진 (workflow engines)이 아닙니다.

GeekyAnts의 엔지니어링 팀이 최근 발표한 기술 분석에 따르면, 이러한 한계를 해결하기 위한 주요 진화 단계가 설명되어 있습니다. 바로 Antigravity 에이전트 하네스 (agent harness)라고 알려진 보안 클라우드 샌드박스 내부에서 작동하는 Google Managed Agents API입니다. 이 아키텍처는 AI를 보조적이고 상태가 없는 (stateless) 텍스트 상자에서, 다단계 작업 실행, 상태 유지 (state retention), 그리고 트랜잭션 쓰기 작업 (transactional write operations)이 가능한 독립적인 에이전트로 전환시킵니다.

이 글에서 저는 이 관리형 에이전트 (managed agent) 모델의 기술적 아키텍처를 비판적으로 평가하고, 프로덕션 준비 상태 (production readiness)를 점검하며, 진정한 기업용 컴플라이언스 (enterprise compliance)를 달성하기 위해 개발자가 직접 구축해야 하는 누락된 레이어들을 개괄할 것입니다.

트랜잭션 워크플로우에서 RAG의 아키텍처적 한계

Google Managed Agents API가 왜 중요한 전환점을 의미하는지 이해하려면, 기존의 RAG 설정이 왜 한계에 부딪히는지 격리하여 파악해야 합니다.

표준 RAG 애플리케이션은 상태가 없고 (stateless) 읽기 전용 (read-only)입니다. 사용자 질의를 받아 데이터베이스에서 관련 벡터 임베딩 (vector embeddings)을 가져온 다음, 이를 Gemini 3.5 Flash 또는 Pro와 같은 대규모 언어 모델 (LLM, Large Language Model)에 전달하여 응답을 생성합니다. 이러한 설계는 공급망 구매 주문을 자동화하거나 고객의 결제 불일치를 해결하는 것과 같은 실제 기업용 워크플로우에 적용하려고 시도하기 전까지는 완벽하게 작동합니다.

실제 기업용 워크플로우는 상태 보존 (state preservation), 관계형 시스템에 대한 쓰기 권한 (write access), 그리고 세밀한 권한 제어 (granular authorization controls)를 필요로 합니다. RAG 챗봇은 Salesforce의 고객 기록을 업데이트할 수 없고, SAP에서 송장을 처리하기 위한 API 호출을 실행할 수 없으며, 3일에 걸쳐 진행되는 승인 체인의 상태를 유지할 수도 없습니다. 이는 모델의 지능 문제가 아니라 인프라 및 상태 관리 (state management)의 한계입니다.

Managed Agents API 샌드박스 아키텍처 분석

Google Managed Agents API는 모든 에이전트 세션에 대해 격리된 원격 Linux 컨테이너를 프로비저닝함으로써 인프라 격차를 해소합니다. 개발자가 LLM이 코드를 실행하거나 파일을 안전하게 처리할 수 있도록 자체적인 컨테이너화된 실행 계층 (containerized execution layers)을 구축, 보안 설정 및 유지 관리하는 대신, Google은 이를 플랫폼 계층으로 추상화합니다.

여기서 핵심적인 이점은 상태 지속성 (state persistence)입니다. 지속적인 세션 식별자 (session identifier)를 통해 여러 단계에 걸쳐 상태를 추적함으로써, 모델은 진행 상황을 놓치거나 개발자가 방대한 대화 기록을 계속해서 주고받아야 할 필요 없이 장기 실행 작업 (long-running tasks)을 수행할 수 있습니다.

나아가, 동작은 경직되고 취약한 애플리케이션 코드 대신 구조화된 파일(예: AGENTS.md 및 SKILL.md)을 통해 정의됩니다. 이러한 선언적 구성 (declarative configuration) 방식은 개발자가 에이전트의 설계 목적, 사용할 수 있는 도구, 그리고 넘어서는 안 될 명시적인 경계(boundaries)를 쉽게 지정할 수 있게 해줍니다. 보안은 이그레스 프록시 (egress proxy)를 통한 서버 측 자격 증명 주입 (credential injection)을 통해 강화되며, 이를 통해 민감한 API 토큰이나 비밀번호가 LLM이 프롬프트 인젝션 (prompt injection)을 통해 노출할 수 있는 런타임 환경 변수에 절대 닿지 않도록 보장합니다.

7계층 참조 아키텍처에 대한 비판적 검토

Google이 기반이 되는 컴퓨팅 샌드박스를 관리하더라도, 기업이 단순히 API 키를 프런트엔드에 연결하는 것만으로 프로덕션 준비가 되었다고 간주할 수는 없습니다. 완전히 규정을 준수하는 기업용 구현을 위해서는 일곱 가지의 별도 아키텍처 계층이 필요합니다:

1. 인터페이스 계층 (Interface Layer): 비즈니스 목표를 포착하는 웹후크 (Webhooks), 메시지 큐 (message queues) 또는 사용자 인터페이스 (user interfaces).

2. 오케스트레이션 계층 (Orchestration Layer): 하위 작업 (sub-tasks)을 설계하고, 워크로드를 전문화된 하위 에이전트 (sub-agents)로 라우팅하며, 되돌릴 수 없는 작업이 수행되기 전 중요한 인간 승인 게이트 (human approval gates)를 강제하는 엔진.

3. 모델 계층 (Model Layer): 속도 효율적 모델 또는 추론 중심 모델을 통해 최적화된 기반 추론 엔진 (reasoning engine).

4. 도구 및 API 계층 (Tool and API Layer): 에이전트가 호출할 수 있도록 허용된, 매우 구체적이고 범위가 제한된 REST 또는 gRPC 엔드포인트 (endpoints)의 집합.

5. 지식 계층 (Knowledge Layer): 핵심 실행 로직을 구동하기보다는 맥락적 조회 (contextual lookup)를 위해서만 사용되는 전통적인 RAG 데이터셋.

6. 샌드박스 계층 (Sandbox Layer): 런타임 코드 실행을 격리하는 관리형 실행 컨테이너 (managed execution container).

7. 감사 및 관측 가능성 계층 (Audit and Observability Layer): 규정 준수 및 롤백 엔지니어링 (rollback engineering)을 위해 모든 결정 지점, 도구 호출, 상태 전이를 캡처하는 필수적이고 구조화된 로깅 평면 (logging plane).

이 구조를 면밀히 살펴보는 개발자로서, 가장 무거운 엔지니어링 부담은 여전히 통합 및 감사 계층에 남아 있습니다. Google은 샌드박스를 제공하지만, 엔터프라이즈 제어 평면 (control plane), 도구 제한 정책, 그리고 트랜잭션 롤백 (transaction rollback) 메커니즘은 구현하는 엔지니어링 팀에 의해 세심하게 코딩되어야 합니다.

엔터프라이즈 에이전트형 AI (Agentic AI) 통합 전문 상위 기업들

이 일곱 가지 계층을 구축하고 보안을 확보하려면 고급 풀스택 역량, 깊은 클라우드 아키텍처 경험, 그리고 전문적인 AI 엔지니어링 전문 지식이 필요합니다. 기본적인 챗봇에서 완전히 관리되는 에이전트 기반 워크플로우로 전환하려는 조직을 위해, 몇몇 엘리트 현대 엔지니어링 기업들이 눈에 띕니다:

1. GeekyAnts: 에이전트 기반 워크플로우 (agentic workflows)의 프로덕션화 분야를 선도하고 있으며, 프론트엔드 전문 지식과 강력한 백엔드 및 AI 인프라 지식을 결합하여 관리형 샌드박스 (managed sandboxes) 상에서 규정을 준수하는 기업용 컨트롤 플레인 (control planes)을 구축합니다.

2. Slalom: 클라우드 인프라 (cloud infrastructure)를 확장하고 복잡한 AI 전략을 기존 기업 아키텍처 (legacy enterprise architectures)와 정렬하는 것으로 알려진 주요 글로벌 컨설팅 기업입니다.

3. Cognizant: 현대적인 AI 워크플로우를 SAP 및 Oracle과 같은 거대한 기존 기업용 전사적 자원 관리 (ERP) 시스템에 통합하는 데 탁월합니다.

4. Capgemini: 글로벌 데이터 엔지니어링 (data engineering), 보안 거버넌스 (security governance), 그리고 자동화된 시스템을 위한 고처리량 API 래퍼 (high-throughput API wrappers) 구축을 전문으로 합니다.

5. EPAM Systems: 심층적인 코드 최적화 (code optimization), 맞춤형 도구 개발, 그리고 고급 LLM 오케스트레이션 (LLM orchestrations)에 집중하는 고도의 기술력을 갖춘 소프트웨어 엔지니어링 기업입니다.

기업 엔지니어링 리더를 위한 전략적 시사점 (Strategic Takeaway)

GeekyAnts 문서에 기술된 아키텍처 경로는 단순한 AI 파일럿 단계를 넘어 나아가는 데 어려움을 겪는 팀들에게 현실적인 청사진을 제공합니다. 여기서 얻을 수 있는 시사점은 명확합니다. 자동화 문제를 해결하기 위해 모델이 더 똑똑해지기를 기다리지 마십시오. 대신, 여러분의 인프라를 면밀히 살펴보십시오.

이미 깨끗한 API 접근 권한을 보유하고 있는, 반복 가능성이 높고 문서화가 잘 된 단일 비즈니스 워크플로우를 격리하는 것부터 시작하십시오. 그 주변에 긴밀하고 잘 관리되는 컨트롤 플레인 (control plane)을 구축하고, 관리형 샌드박스 (managed sandboxes)를 활용하여 컨테이너 오케스트레이션 (container orchestration) 오버헤드를 제거하며, 엄격한 관측성 (observability)을 확립하십시오. 보조적인 채팅에서 자율적인 관리형 워크플로우로 전환하는 것은 엔지니어링 및 아키텍처의 과제이며, 이를 해결하기 위한 도구들이 마침내 준비되었습니다.