에이전트 (Agents)는 고객 지원 티켓에 답변하는 것부터 코드를 작성하는 것까지 거의 모든 종류의 작업을 수행하도록 설계되었습니다. 워크로드의 복잡성, 실행 시간, 또는 완료까지 걸리는 턴 (turns)의 횟수에 관계없이, 모든 에이전트가 작동하기 위해서는 세 가지 핵심 역량이 필요합니다:

완전한 에이전트를 구축하기 위해 이러한 역량들을 구현하는 과정에서 개발자들은 단일 제공업체 API에 대한 벤더 종속 (vendor lock-in)을 선택할지, 솔루션들을 서로 짜깁기할지, 아니면 직접 추상화 (abstractions)를 구축할지 사이에서 고민해야 합니다.

에이전트 스택 (The Agent Stack)은 프로덕션급 (production-grade) 에이전트를 생성하고 출시하는 데 필요한 모든 빌딩 블록 (building blocks)을 제공합니다.

에이전트는 단일 모델 위에서만 작동하지 않습니다. 모든 작업은 서로 다른 비용, 지연 시간 (latency), 그리고 역량 간의 트레이드오프 (tradeoff)를 가지며, 적절한 호출은 에이전트가 무엇을 하고 있는지에 따라 달라집니다. 에이전트에게는 이들 중 어느 곳에든 도달할 수 있는 하나의 인터페이스, 이들 사이를 라우팅 (route)할 방법, 그리고 사용자에게 다시 스트리밍 (stream)할 방법이 필요합니다.

에이전트에게 모든 모델을 호출할 수 있는 하나의 인터페이스를 제공하며, 단일 엔드포인트 (endpoint)에서 수백 개의 모델을 가로질러 라우팅합니다. AI SDK AI Gateway

모든 연구소 (labs)는 각자의 API를 통해 모델 호출을 노출합니다. 스트리밍 (Streaming), 도구 호출 (tool calls), 구조화된 출력 (structured output), 그리고 요청의 형태가 모두 다르기 때문에, 지원하는 모든 제공업체는 구축하고 유지 관리해야 할 또 다른 통합 (integration)을 추가하게 됩니다.

AI 앱, 에이전트 및 프레임워크를 구축하기 위한 단일 인터페이스입니다. 이는 플랫폼, 프레임워크 및 모델에 구애받지 않으며 (agnostic), 텍스트, 이미지, 음성, 비디오 등을 생성할 수 있게 해줍니다. AI SDK

이제 토큰 (Tokens)은 웹의 대역폭 (bandwidth)과 마찬가지로 프로덕션의 필수 의존 요소가 되었으며, 에이전트는 작업마다 서로 다른 모델을 사용합니다. 여러 연구소 간의 통합은 비용이 많이 들고, 속도 제한 (rate-limited)이 있으며, 항상 변화하는 제공업체들로부터 별도의 키 (keys)와 결제를 관리해야 함을 의미합니다.

는 토큰을 위한 CDN (Content Delivery Network) 역할을 하며, 우리가 10년 이상 운영해 온 글로벌 네트워크를 통해 토큰을 라우팅 (routing)합니다. 각 호출을 단일 엔드포인트 (endpoint)를 통해 라우팅하고, 제공업체가 다운되면 페일오버 (failover)를 수행하며, 모든 제공업체에 걸친 비용과 사용량을 추적합니다. 추가 마진 없이 제공업체의 가격 그대로 지불하며, 본인의 키 (keys)를 사용할 수 있습니다. AI Gateway

는 단일 키로 세 가지 모델을 실행하여, 시장 분석은 Claude로, 마케팅 문구는 GPT로, 이미지 생성은 Gemini로 보냅니다. SERHANT.

에이전트 (Agents)는 작업을 순차적으로 수행하며, 때로는 몇 분 또는 몇 시간 동안 지속되기도 합니다. 그리고 이러한 작업들은 종종 보안 환경 내에서 코드 실행 및 기타 연산을 수행할 것을 요구합니다.

는 에이전트 실행을 내구성 있게 (durable) 만들며, 에이전트에게 독립된 VM (Virtual Machine)을 제공합니다. Workflow SDK Vercel Sandbox

에이전트 워크플로 (workflow)의 깊은 단계에서 오류가 발생하고 재개할 지점이 없다면, 전체 작업이 처음부터 다시 시작되어 비용을 지불한 모든 모델 호출을 재실행하게 됩니다. 내구성 (durability) 문제를 해결한다는 것은 재시도 (retries), 상태 지속성 (state persistence), 그리고 오케스트레이션 (orchestration)을 직접 구축하고 유지 관리해야 함을 의미합니다.

모든 작업의 모든 단계를 체크포인트 (checkpoint)하고, 상태를 유지하며, 실패한 항목을 재시도하고, 사람이나 느린 API, 또는 웹훅 (webhook)을 기다려야 할 때 일시 중지합니다. 처음부터가 아니라 마지막으로 성공한 단계부터 재개하여 실행합니다. Workflow SDK

는 Workflow SDK를 기반으로 크리에이티브 에이전트 (creative agent)를 구축했으며, 여기서 단일 크리에이티브 세션은 50개 이상의 이미지 모델로 확장 (fan out)됩니다. 각 단계는 지속 (persist)되고 실패 시 재시도되므로, 긴 실행 과정에서도 상태를 절대 잃지 않습니다. FLORA

에이전트는 파일을 읽고, 명령어를 실행하며, 코드를 작성합니다. 그러한 자유가 에이전트를 유능하게 만듭니다. 하지만 제약 조건이 없다면 그것은 곧 리스크 (risk)가 됩니다. 코드는 검토되지 않았고, 명령어가 잘못되었을 수 있으며, 단 하나의 잘못된 단계가 결코 건드려서는 안 될 곳에 도달할 수 있습니다.

각 에이전트에게 파일 시스템, Docker 지원, 그리고 호스트 및 다른 모든 샌드박스(sandbox)로부터 격리된 자체 커널을 갖춘 완전한 Linux 컴퓨터인 마이크로VM (microVM)을 제공합니다. 자격 증명(Credentials)은 에이전트의 코드가 서비스를 호출할 때만 주입되므로, 에이전트는 가공되지 않은 토큰 (raw token)을 직접 보지 않고도 필요한 것을 사용할 수 있습니다.Vercel Sandbox

샌드박스 (Sandboxes)는 Vercel의 10억 건 이상의 프리뷰 배포(preview deployments)와 일일 600만 건의 빌드(builds)를 뒷받침하는 것과 동일한 기본 요소(primitive)를 귀하와 귀하의 에이전트에게 제공합니다.

모델과 대화만 하는 에이전트는 많은 것을 할 수 없습니다. 유용하게 쓰이려면 데이터와 외부 시스템에 접근해야 하며, 이를 사용하는 사람들과 소통해야 합니다. 이 두 가지 연결은 모두 보안이 유지되어야 합니다.

에이전트에게 데이터와 시스템에 대한 범위가 제한된(scoped) 단기 액세스 권한을 부여합니다. 사용자가 이미 머물고 있는 앱 안으로 에이전트를 보냅니다.Vercel ConnectChat SDK

풀 리퀘스트 (pull request)를 열거나, 레코드를 업데이트하거나, 데이터 웨어하우스 (data warehouse)를 쿼리하는 작업. 에이전트에게 이러한 작업을 요청한다는 것은 귀하가 사용하는 플랫폼에 대한 접근 권한을 부여한다는 의미이며, 오늘날 이는 보통 에이전트가 수행할 수 있는 모든 작업을 포괄할 만큼 범위가 넓은 장기 토큰 (long-lived token)을 부여하는 것을 의미합니다. 이 토큰은 만료되지 않으며, 에이전트가 취한 특정 행동을 어떤 사용자가 승인했는지 아무도 말할 수 없습니다.

, 각 시스템과 한 번만 통합하면 됩니다. 에이전트는 귀하가 명시적으로 부여한 권한으로만 범위가 제한된, 각 작업에 대한 단기 토큰을 발행(mints)합니다.Vercel Connect

모든 작업은 사용자에서 에이전트, 서비스로 추적되므로, 감사 로그 (audit log)를 통해 모든 호출을 에이전트가 대행한 사용자와 연결할 수 있습니다.

Vercel Connect는 에이전트 스택 (Agent Stack)의 가장 최신 빌딩 블록 (building block)으로, 현재 Slack, GitHub, Snowflake, Salesforce, Notion, Linear를 지원하며, OAuth 또는 API를 통해 다른 모든 서비스를 지원하는 공개 베타(public beta) 상태입니다.

사람들은 하나의 탭에서만 작업하지 않습니다. Slack, GitHub, Linear, WhatsApp, Discord 사이를 이동하며, 각 플랫폼에 있는 귀하의 에이전트를 기대합니다. 직접 에이전트를 배치하려면 플랫폼마다 서로 다른 API 통합, 인증 흐름 (auth flow), 메시지 형식을 구현해야 합니다.

당신의 에이전트를 그 모든 곳에 전달합니다. Chat SDK를 한 번만 설치하면 각 플랫폼의 어댑터(adapter)를 처리하여, 사용자가 이미 머물고 있는 곳에서 에이전트를 사용할 수 있게 해줍니다. Chat SDK

NanoClaw는 Chat SDK를 사용하여 단일 코드베이스로부터 십여 개 이상의 채널에 하나의 에이전트를 전달합니다. 대화는 Slack에서 시작하여 GitHub나 Linear에서 계속될 수 있으며, 에이전트는 여러 인터페이스(surfaces)에 걸쳐 컨텍스트(context)를 유지합니다.

지난 1년 동안 우리는 에이전트 스택 (Agent Stack) 위에서 수백 개의 에이전트를 구축했습니다. 이러한 빌딩 블록(building blocks)들을 반복적으로 조립하면서, 우리는 에이전트에게 특정한 형태가 있다는 것을 배웠습니다.

eve는 프레임워크로서 그 형태를 구현합니다. 이는 단일 디렉토리에 구현된 에이전트 스택의 주관적인(opinionated) 오픈 소스 구현체입니다. 지침(instructions)은 마크다운(markdown)에, 도구(tools)는 TypeScript에 저장됩니다. 지속 가능한 실행(Durable execution), 샌드박스 컴퓨팅(sandboxed compute), 승인(approvals) 및 전달(delivery) 기능은 이미 하위 계층에 연결되어 위에서 언급한 블록들을 기반으로 작동합니다. eve를 사용하면 조립 과정이 완료되어 있으므로, 당신은 에이전트 작성에만 집중하면 됩니다.

eve는 현재 퍼블릭 베타(public beta) 단계이며, 런칭 포스트에서 더 자세한 내용을 확인할 수 있습니다.

더 읽어보기

• 에이전트는 모델에 연결하고 모델 간에 라우팅(route)해야 합니다.
• 에이전트는 여러 단계에 걸친 워크플로(workflows)를 실행해야 합니다.
• 에이전트는 자신을 유용하게 만드는 시스템 및 사람들이 상호작용하기 위해 사용하는 플랫폼과 연결되어야 합니다.

모델에 연결하기

복잡한 워크플로 실행하기

데이터 및 도구에 연결하기

에이전트 프레임워크, eve

AI SDK

AI Gateway

Workflow SDK

Vercel Sandbox

Vercel Connect

Chat SDK