핵심 요약 (Key Takeaways)

에이전트를 구축하는 것은 점점 쉬워지고 있습니다. 하지만 이를 운영하는 것은 여전히 어려운 과제입니다. 장시간 실행되는 에이전트(Long-running agents)는 내구성이 있는 실행(Durable execution), 도구 접근(Tool access), 샌드박스(Sandboxes), 메모리(Memory), 그리고 트레이싱(Tracing)이 필요하며, 이를 직접 조립하는 과정은 실제 에이전트를 구축하는 데 써야 할 시간을 뺏어갑니다.

Managed Deep Agents는 오픈 소스 하네스(Harness)에 LangSmith라는 내구성 있는 안식처를 제공합니다.
사용자는 자신의 리포지토리(Repo)에 에이전트 정의를 유지합니다. 저희는 스레드(Threads), 체크포인팅(Checkpointing), 스트리밍(Streaming), 컨텍스트(Context), 그리고 관측성(Observability)과 같은 런타임(Runtime)을 처리합니다.

시간에 걸쳐 실행되는 에이전트에는 시간이 지나도 지속되는 컨텍스트가 필요합니다.
Context Hub는 에이전트가 알고 있는 내용을 저장하고 업데이트할 수 있는 관리형 공간을 제공하여, 에이전트가 배포 시점에 프롬프트(Prompt)에 입력한 내용뿐만 아니라 실제 사용 사례를 통해 개선될 수 있도록 합니다.

오늘 저희는 딥 에이전트(Deep agents)를 생성, 실행 및 운영하기 위한 API 우선 방식의 호스팅 런타임인 Managed Deep Agents를 프라이빗 베타(Private beta)로 출시합니다.

Deep Agents는 개발자에게 계획을 세우고, 도구를 사용하며, 하위 에이전트(Subagents)에게 위임하고, 파일을 작성하며, 긴 시간 범위(Long horizons)에 걸쳐 작업할 수 있는 에이전트를 구축하기 위한 오픈 소스 하네스(Harness)를 제공합니다. Managed Deep Agents는 이러한 에이전트들에게 LangSmith 내의 내구성 있는 안식처를 제공합니다.

Managed Deep Agents API를 사용하면 자체 애플리케이션이나 내부 플랫폼 워크플로우(Workflow)에서 프로그래밍 방식으로 에이전트를 생성, 업데이트, 관리 및 실행할 수 있습니다.

저희는 더 넓은 셀프 서비스(Self-serve) 액세스를 제공하기 전에, 실제 워크플로우를 구축하는 팀들과 긴밀히 협력할 수 있도록 먼저 디자인 파트너(Design partners)들에게 API를 공개합니다.

Managed Deep Agents를 사용하는 이유

유용한 에이전트를 구축하는 것은 점점 쉬워지고 있습니다. 하지만 이를 프로덕션(Production) 환경에서 실행하는 것은 여전히 어렵습니다.

장시간 실행되는 에이전트에는 단순한 모델 호출(Model call) 이상의 것이 필요합니다. 내구성이 있는 실행(Durable execution), 스트리밍(Streaming), 메모리(Memory), 파일(Files), 도구 접근(Tool access), 인간의 승인(Human approval), 샌드박스(Sandboxes), 트레이싱(Tracing), 그리고 시간이 지남에 따라 개선될 수 있는 방법이 필요합니다.

팀이 이러한 인프라를 직접 구축할 수도 있지만, 에이전트가 사용자에게 도달하기도 전에 관리해야 할 부담이 너무 커집니다. 결국 에이전트 자체와 더불어 런타임 인프라(Runtime infrastructure), 파일 저장소(File storage), 도구 구성(Tool configuration), 샌드박스 실행(Sandbox execution), 스레드 상태(Thread state), 트레이싱(Tracing), 그리고 피드백 루프(Feedback loops)를 모두 유지 관리해야 하는 상황에 직면하게 됩니다.

Managed Deep Agents는 오픈 소스 Deep Agents 하네스 (harness) 주변에 운영 계층 (operational layer)을 패키징하여, 개발자가 런타임 (runtime)을 재구축하는 대신 에이전트의 동작 (behavior)에 집중할 수 있도록 합니다.

프라이빗 베타 (Private beta)에서 출시하는 기능

프라이빗 베타는 LangSmith에서 딥 에이전트 (deep agents)를 실행하기 위한 소수의 관리형 프리미티브 (managed primitives)에 집중합니다.

관리형 런타임 (Managed runtime)

Managed Deep Agents를 사용하면 커스텀 에이전트 서버를 구축하지 않고도 관리형 딥 에이전트 (Managed Deep Agent)를 생성할 수 있습니다.

이 런타임은 지속 가능한 스레드 (durable threads), 스트리밍 실행 (streaming runs), 체크포인팅 (checkpointing), 그리고 휴먼 인 더 루프 (human-in-the-loop) 워크플로우를 지원합니다. API를 사용하여 에이전트를 생성하고, 설정을 업데이트하며, 스레드를 생성하고, 자체 제품이나 플랫폼 워크플로우에서 실행을 스트리밍할 수 있습니다.

API 인터페이스는 /v1/deepagents 경로에서 사용할 수 있습니다.

에이전트 컨텍스트 (Agent context) 및 파일

Managed Deep Agents는 AGENTS.md, skills/, subagents/, tools.json을 포함하여 기존의 익숙한 Deep Agents 프로젝트 구조를 유지합니다.

이 파일들은 에이전트가 어떻게 동작하는지, 어떤 도구 (tools)를 사용할 수 있는지, 어떤 특화된 기술 (specialized skills)을 로드할 수 있는지, 그리고 어떤 서브 에이전트 (subagents)에게 작업을 위임할 수 있는지를 정의합니다. Managed Deep Agents는 이러한 파일들을 LangSmith에 저장하고 버전 관리하므로, 에이전트 정의가 시간이 지남에 따라 진화할 수 있습니다.

컨텍스트 허브 (Context Hub)는 에이전트가 여러 실행에 걸쳐 필요한 컨텍스트 (context)를 유지하고 업데이트할 수 있는 관리된 공간을 제공합니다. 이는 사용자 선호도, 프로젝트 세부 정보, 연구 노트, 운영 절차 또는 기타 작업 컨텍스트를 계속 추적해야 하는 에이전트에게 매우 중요합니다.

선택적으로 LangSmith Engine을 활성화하여 에이전트 트레이스 (traces)를 검토함으로써, 에이전트 프롬프트 (prompts)와 코드 전반에 걸친 버그 및 개선 영역을 찾을 수 있습니다. 실행 사이의 간격 동안, 에이전트는 대화를 검토하고, 실제 사용 사례로부터 학습하며, Context Hub 파일을 업데이트할 수 있습니다.

시간이 흐름에 따라, 이를 통해 에이전트는 실제로 수행하는 작업을 통해 스스로를 개선할 수 있습니다. 예를 들어, 지원 분류 (support triage) 에이전트의 경우, LangSmith Engine은 사용자들이 계속해서 동일한 내부 프로세스에 대해 질문한다는 점을 감지하고 운영 노트를 업데이트할 수 있습니다.

자세한 내용은 LangSmith Engine 출시 포스트에서 확인하세요.

도구 (Tools) 및 샌드박스 (Sandboxes)

도구 (Tools)는 Deep Agents에서 사용하는 것과 동일한 tools.json을 통해 구성됩니다. tools.json에 정의된 모든 도구에 대해 Human-in-the-loop (사람 개입) 기능을 활성화할 수 있습니다.

Managed Deep Agents는 코드, 셸 명령 (shell commands), 파일 입출력 (file I/O)이 필요한 워크플로우를 위해 샌드박스 기반 실행 (sandbox-backed execution)도 지원합니다. 이는 데이터를 분석하거나, 파일을 조작하거나, 스크립트를 실행하거나, 작업의 일부로 결과물 (artifacts)을 생성해야 하는 에이전트에게 유용합니다.

각 에이전트마다 도구 및 샌드박스 설정을 새로 구축하는 대신, 해당 구성을 관리형 런타임 (managed runtime)에 유지하고 LangSmith를 통해 이를 운영할 수 있습니다.

LangSmith 가시성 (visibility)

Managed Deep Agents 실행은 LangSmith에서 자동으로 추적 (trace)됩니다. 팀은 도구 호출 (tool calls)을 검사하고, 동작을 디버깅하며, 중간 단계를 검토하고, 에이전트가 시간이 지남에 따라 어떻게 개선되는지 이해할 수 있습니다.

이를 통해 개발자는 기존에 에이전트 및 LLM 애플리케이션에서 사용하던 것과 동일한 관측성 (observability) 워크플로우를 관리형 런타임에 직접 연결하여 사용할 수 있습니다.

작동 방식

출시 경로는 API 우선 (API-first) 방식입니다. Managed Deep Agents API를 사용하여 에이전트를 생성하거나 업데이트한 다음, 에이전트를 정의하는 파일들을 업로드하거나 참조합니다. 여기에는 지침 (instructions), 기술 (skills), 하위 에이전트 (subagents) 및 도구 구성이 포함됩니다.

그 후, 커스텀 에이전트 서버를 배포하지 않고도 앱에서 스레드 (thread)를 생성하고 실행 (run)을 스트리밍할 수 있습니다. 에이전트가 실행되는 동안 LangSmith에서 추적 (traces)과 에이전트 컨텍스트 (agent context)를 검사할 수 있습니다.

이를 통해 가능해지는 것들

Managed Deep Agents는 긴 시간 범위 (long time horizons) 동안 작동하고, 도구를 사용하며, 컨텍스트를 보존하고, 결과물 (artifacts)을 생성해야 하는 에이전트를 위해 설계되었습니다.

몇 가지 예시는 다음과 같습니다:

지원 및 분류 에이전트 (Support and triage agents): 장기 실행되는 스레드(threads) 전반에서 작동하며, 이전 컨텍스트를 추적하고, 필요할 때 에스컬레이션(escalate)하며, 반복되는 이슈로부터 자체 운영 노트를 업데이트합니다. 연구 에이전트 (Research agents): 소스를 수집하고, 노트를 작성하며, 중간 결과물을 보존하고, 여러 세션에 걸쳐 결과물(deliverables)을 생성합니다. 코딩 에이전트 (Coding agents): 파일 시스템, 쉘 명령(shell commands), 도구 액세스(tool access), 그리고 더 긴 작업을 위한 재개 가능한 실행(resumable execution) 기능이 필요합니다. 데이터 분석 에이전트 (Data analysis agents): 코드를 실행하고, 결과물(artifacts)을 보존하며, 탐색적 워크플로(exploratory workflows) 전반에서 컨텍스트를 유지합니다. 내부 운영 에이전트 (Internal ops agents): 온보딩 어시스턴트, 정책 에이전트, 또는 워크플로 코디네이터와 같이 반복적인 사용을 통해 자체 컨텍스트를 개선합니다.

이러한 에이전트들에게는 프롬프트(prompt)와 도구 호출(tool call) 이상의 것이 필요합니다. 이들에게는 지속 가능한 작업(durable work)을 지원할 수 있는 런타임(runtime)이 필요합니다.

오픈 소스 딥 에이전트 (Deep Agents) 기반 구축

Managed Deep Agents는 LangSmith가 관리하는 런타임 인프라를 갖춘 딥 에이전트(Deep Agents)를 원하는 팀을 위한 가장 빠른 경로입니다. 에이전트 정의를 귀하의 리포지토리(repo)에 유지하면서, API를 사용하여 LangSmith에서 관리형 에이전트를 생성하고 운영할 수 있습니다.

즉, 개발자는 오픈 소스 하네스(harness)를 사용하여 구축하면서도, 지속 가능한 실행(durable execution), 호스팅된 컨텍스트(hosted context), 샌드박스 기반 워크플로(sandbox-backed workflows)를 위해 LangSmith에 의존할 수 있으며, 이 모든 것은 LangSmith 관측성(observability)과 통합됩니다.

시작하기

Managed Deep Agents는 프라이빗 베타(private beta)로 제공됩니다.

지속 가능한 실행, 도구, 샌드박스, 트레이싱(tracing), 그리고 프로덕션으로 가는 관리형 경로가 필요한 딥 에이전트를 구축하고 있다면, 프라이빗 베타 대기 명단에 참여하세요.

또한 문서를 읽고 API를 통해 관리형 딥 에이전트를 배포하는 방법을 확인할 수 있습니다.