모든 주요 연구소들이 조용히 한 가지를 인정하고 있습니다. 바로 에이전트는 더 이상 프롬프팅(prompting) 문제가 아니며, 인프라(infrastructure) 문제입니다. Anthropic의 Managed Agents, OpenAI의 sandboxed Agents SDK, Google이 CNCF에 Agent Substrate를 기부한 것까지—세 개의 다른 회사가 동일한 근본적인 움직임을 보이고 있습니다. 에이전트 자체, 세션 로그, 오케스트레이션 루프(orchestration loop), 샌드박스(sandbox)는 API 호출에 단순히 붙이는 것이 아니라 임대하는 관리형 런타임(managed runtime)이 되어가고 있습니다.
대부분의 팀은 이 내용을 '좋다, 우리가 구축할 부분이 줄어들었군'이라고 해석할 것입니다. 하지만 그것은 잘못된 해석이며, 주목해야 할 부분입니다.
저는 출시 게시물 대신 실제 보안 문서를 살펴보았습니다. 아무도 입 밖에 내지 않는 내용은 다음과 같습니다: 이러한 관리형 런타임의 기본 설정(default configuration)은 설계상 관대합니다(permissive by design). Claude의 Managed Agents에서 네트워킹 설정을 건너뛰면 제한 없는 이그레스(egress)를 얻게 됩니다. 빠른 시작 버전에는 bash를 포함하여 모든 도구가 항상 허용(always-allow) 상태로 제공되며, 인간의 승인 게이트가 없습니다. 이그레스 제어는 운영 레벨이 아닌 호스트 레벨에서 적용되므로, 텔레메트리(telemetry)를 위해 특정 호스트를 허용했다면, 해당 단계에서 활성화된 어떤 자격 증명으로든 그와 동일한 호스트로 git push나 패키지 게시가 가능해진 것입니다.
상황은 이보다 더 구체적입니다. 샌드박스 내부에서 사용되는 이그레스 토큰은 그 안에 실행되는 모든 프로세스가 읽을 수 있으며, 조직 ID(org ID), 세션 ID(session ID), 규정 준수 등급(compliance tier), 그리고 전체 허용 호스트 목록을 노출합니다. 이는 프롬프트 인젝션(prompt injection)을 통해 발판을 마련하는 모든 대상에게 직접 전달되는 정찰 지도와 같습니다. 별도로, 문서화되지 않은 공급업체 호스트들이 사용자가 설정한 내용과 관계없이 모든 세션의 허용 목록에 주입됩니다. 그리고 차단된 요청은 DNS 오류로 조용히 실패하며, 무엇이 차단되었는지에 대한 감사 로그(audit log)는 없고 오직 통과된 것만 기록합니다.
이 모든 것이 관리형 에이전트 인프라(managed agent infrastructure)를 채택하지 말라는 의미는 아닙니다. 이는 단지 도입 결정권이 AI 팀의 손에서 플랫폼 및 보안 엔지니어링(platform and security engineering)의 손으로 넘어왔다는 뜻이며, 대부분의 조직은 아직 이러한 역할 이관을 완료하지 못했습니다. 현재 에이전트를 파일럿 테스트하는 팀들은 여전히 이를 모델 평가 문제로 취급하고 있습니다. 즉, 벤치마크 정확도, 환각률(hallucination rate), 작업 완료율에 초점을 맞추는 것입니다. 2027년에 실패할 팀들은 이그레스 정책(egress policy), 도구 승인 기본값(tool-approval defaults)을 전혀 검토하지 않았거나, 공급업체의 자체 호스팅 옵션이 실제로 자체 인프라에 남기는 것과 아무리 '호스팅'한다고 해도 여전히 공급업체 서버를 거쳐 왕복하는 것을 고려하지 않은 팀들일 것입니다.
사람들이 계속 놓치는 마지막 지점이 바로 이것입니다. 자체 호스팅(self-hosted)이 곧 자립적(self-contained)을 의미하지는 않습니다. 자체 호스팅 샌드박스 옵션에서 워커(worker)는 사용자의 인프라에서 실행되지만, 도구 호출과 웹 접근은 여전히 공급업체 측을 통해 라우팅됩니다. 컴퓨팅 파워만 호스팅하는 것이지, 신뢰 경계(trust boundary)를 호스팅하는 것은 아닙니다.
실질적인 변화는 이렇습니다. 만약 파일럿 단계를 넘어섰다면, 에이전트 배포 검토 과정은 새로운 VPC 피어링 요청과 동일한 엄격함을 요구합니다. 명시적인 도구별 승인 게이트(per-tool approval gates), 호스트 및 작업별 최소 권한 이그레스(least-privilege egress), 실제로 소유권을 갖는 로그 보존 정책, 그리고 '에이전트가 작업 중간에 프롬프트 주입(prompt-injected)을 당했을 때 이 세션 토큰이 무엇을 노출하는지'에 대한 실질적인 답변이 필요합니다. 만약 현재 검토 과정이 '샌드박스에서 실행해 봤다' 수준이라면, 그 기준은 이미 너무 낮습니다. 왜냐하면 공급업체는 사용자가 다음 단계를 스스로 처리할 것이라고 가정하고 있기 때문입니다.
역량(Capability)은 몇 달 전에 병목 지점이 아니게 되었습니다. 현재 진정한 경쟁 우위는 신뢰 경계 설계(Trust boundary design)이며, 프로덕션 환경에서 에이전트를 도입하는 거의 모든 사람이 이를 그렇게 취급하지 않고 있습니다. 이 부분을 제대로 이해한 조직은 보안 검토의 정체기(purgatory)에 갇힌 경쟁사보다 더 빠르게 에이전트를 출시할 수 있습니다. 왜냐하면 그들은 매번 파일럿을 할 때마다 경계를 재논쟁하는 대신, 한 번만 경계를 확립했기 때문입니다.
#AIAgents #EnterpriseAI #AISecurity #AgentInfrastructure #CTO #Cybersecurity #AIOps #TechStrategy