LangGraph v0.1 및 LangGraph Cloud 발표: 대규모로 안정적인 에이전트 실행

참고: 2025년 10월 현재, LangGraph Platform은 'LangSmith Deployment'으로 이름이 변경되었습니다.

LangChain에서는 LLM 애플리케이션을 쉽게 구축하는 것을 목표로 합니다. 즉, LLMs를 외부 데이터 소스 및 컴퓨팅에 연결하여 세상에 대해 추론할 수 있게 하는 시스템입니다. LLM이 애플리케이션의 제어 흐름(즉, 우리가 에이전트라고 부르는 것)을 결정하도록 하는 것은 매력적입니다. 왜냐하면 이들이 이전에는 자동화될 수 없었던 다양한 작업을 해제할 수 있기 때문입니다. 하지만 실제로는 이러한 작업들을 안정적으로 실행하는 시스템을 구축하기가 매우 어렵습니다.

이를 해결하기 위해 몇 달 전, 저희는 에이전트 기반 및 다중 에이전트 애플리케이션을 구축하기 위한 프레임워크인 LangGraph를 소개했습니다. langchain 패키지와 별개로, LangGraph의 핵심 설계 철학은 개발자들이 실제 시스템의 복잡성에 적합하도록 에이전트 워크플로우에 더 나은 정밀도와 제어력을 추가할 수 있도록 돕는 것입니다.

오늘, 저희는 LangGraph v0.1의 안정화된 출시를 발표하며, 이러한 견고한 에이전트 시스템을 사용자들이 더 많이 만들도록 돕겠다는 약속을 재확인합니다. 또한 Klarna, Replit, Ally, Elastic, NCL 등 선도적인 기업들이 이미 LangGraph에 의존하여 회사들의 AI 이니셔티브를 다음 단계로 끌어올리고 있는 것에 감사드립니다.

또한 LangGraph Cloud를 발표하게 되어 매우 기쁩니다. 현재 클로즈 베타 버전인 LangGraph Cloud는 LangGraph 에이전트를 확장 가능하고 내결함성 있게 배포하기 위한 인프라입니다. 또한 프로토타입을 만들고, 디버깅하고, 모니터링하는 과정에서 더 많은 가시성과 자신감을 얻을 수 있도록 통합 개발자 경험(developer experience)도 제공합니다.

더 자세한 내용을 읽어보고 사용 방법을 확인해 보세요. 시각적 학습자가 더 많다면, 여기에서 저희의 비디오 워크스루를 확인할 수 있습니다.

LangGraph v0.1: 에이전트 제어와 자율성의 균형

대부분의 에이전트 프레임워크는 간단하고 미리 정의된 작업은 처리할 수 있지만, 회사나 도메인별 특정 컨텍스트가 필요한 복잡한 워크플로우에는 어려움을 겪습니다. 이는 레거시(legacy) LangChain AgentExecutor도 마찬가지였지만, 저희가 반복과 경험을 통해 배운 것은 높은 수준의 추상화(abstraction)가 개발자로부터 너무 많은 세부 사항을 숨겨서, 궁극적으로 작업을 안정적으로 완수하는 데 필요한 제어력이 부족한 시스템을 초래한다는 것입니다.

반면 LangGraph는 사용자 지정 인지 아키텍처(cognitive architectures)를 설계할 수 있는 유연한 API를 가지고 있습니다. 이는 사용자가 코드 흐름, 프롬프트, 그리고 액션을 수행하거나 응답을 생성하기 위해 사용자 입력을 받는 LLM 호출에 대한 낮은 수준의 제어권을 얻는다는 것을 의미합니다. 조건부 분기(conditional branching)와 루핑(looping) 기능을 통해 LangGraph는 사용자가 계층적 또는 순차적 의사 결정 패턴을 가진 단일 에이전트 또는 다중 에이전트 구성을 구축할 수 있도록 합니다. 노르웨이 크루즈 라인(Norwegian Cruise Line)과 같은 회사에서는 이러한 수준의 에이전트 제어력이 매우 중요했습니다.

“LangGraph는 저희 AI 개발에 결정적인 역할을 했습니다. LLM을 사용한 상태 저장(stateful), 다중 액터 애플리케이션 구축을 위한 견고한 프레임워크는 저희가 AI 게스트 대면 솔루션의 성능을 평가하고 최적화하는 방식을 변화시켰습니다. LangGraph는 에이전트의 사고 과정에 대한 세밀한 제어(granular control)를 가능하게 하여, 저희가 고객의 다양한 요구 사항을 충족하기 위해 데이터 기반의 신중한 결정을 내릴 수 있도록 힘을 실어주었습니다.” - Andres Torres (Sr. Solutions Architect @ Norwegian Cruise Line)

LangGraph는 또한 에이전트가 작업을 계속하기 전에 특정 조건을 충족하는지 확인하는 조정(moderation) 및 품질 검사 기능을 쉽게 추가할 수 있게 합니다. 이는 에이전트가 제대로 진행되도록 유지하고, 잘못된 경로에 갇혀서 회복하기 어려울 가능성을 줄여줍니다.

Replit과 같은 회사에게 LangGraph의 세밀한 제어는 신뢰할 수 있는 에이전트를 배포하는 능력을 강화했습니다.

Replit과 같은 회사에게 LangGraph의 세밀한 제어는 신뢰할 수 있는 에이전트를 배포하는 능력을 강화했습니다.

"코딩 에이전트의 프로토타입을 만드는 것은 쉽지만, 그 신뢰성을 개선하는 것은 기만적으로 어렵습니다. Replit은 코딩 에이전트를 수백만 명의 사용자에게 제공하고자 하며, 신뢰성은 우리의 최우선 과제이며 오랫동안 그럴 것입니다. LangGraph는 강력한 코딩 에이전트를 구축하고 배포하는 데 필요한 제어력과 사용 편의성을 제공합니다." - Michele Catasta (Replit AI 부사장)

가장 복잡하거나 민감한 작업을 위해서는 여전히 에이전트 자동화를 보완하기 위해 인간의 협업이 필요합니다. LangGraph는 내장된 영속성 계층(persistence layer)을 통해 인간-에이전트 협업을 가능하게 합니다. 구체적으로, LangGraph를 사용하면 다음을 수행할 수 있습니다:

• 에이전트가 작업을 실행하고 워크플로우를 재개하기 전에 명시적으로 인간의 승인을 기다리도록 설계합니다.
• 에이전트가 실행되기 전에 그 행동을 수정합니다.
• 에이전트의 실행 과정을 검사, 재배선, 수정 및 재개할 수 있습니다 (이는 우리가 "시간 여행" 기능이라고 설명하는 것입니다).

Elastic과 같은 팀에게 이러한 디자인 유연성은 판도를 바꿀 정도였습니다. 그들은 다음과 같이 언급했습니다:

"LangChain은 LangGraph를 통해 제시한 것으로 이미 앞서 나가고 있습니다. LangGraph는 대화형 에이전트, 복잡한 작업 자동화부터 '그냥 작동하는' 맞춤형 LLM 기반 경험에 이르기까지 AI 워크로드를 구축하고 확장할 수 있는 기반을 마련합니다. LLM으로 복잡한 프로덕션 레디 기능을 구축하는 다음 장은 에이전트(agentic)이며, LangGraph와 LangSmith를 통해 LangChain은 빠르게 반복하고, 즉시 디버깅하며, 손쉽게 확장할 수 있는 즉시 사용 가능한 솔루션을 제공합니다." – Garrett Spong (Elastic Principal SWE)

마지막으로, LangGraph는 중간 단계 스트리밍과 토큰별 스트리밍을 네이티브로 지원하여 장시간 실행되는 에이전트 작업(agentic tasks)을 사용하는 사용자에게 더욱 역동적이고 반응성이 뛰어난 경험을 가능하게 합니다.

**LangGraph Cloud: 통합 모니터링을 갖춘 확장 가능한 에이전트 배포 **

LangGraph 프레임워크를 보완하기 위해, 우리는 또한 새로운 런타임인 LangGraph Cloud를 베타 버전으로 제공하며, 이는 대규모로 에이전트를 배포하는 데 특화된 인프라를 제공합니다.

에이전트 활용 사례가 주목받으면서 에이전트 간의 작업 분배가 불균형해지면 시스템 과부하를 초래하여 속도 저하나 서비스 중단을 야기할 수 있습니다. LangGraph Cloud는 이러한 문제를 해결하고 장애 허용성(fault-tolerant)을 갖춘 확장성을 달성하도록 돕습니다. 이 서비스는 수평적으로 확장되는 작업 큐, 서버, 그리고 대규모 상태와 스레드를 효율적으로 저장하는 강력한 Postgres 체크포인터(checkpointer)를 우아하게 관리합니다.

LangGraph Cloud는 실제 상호작용 패턴을 지원하도록 설계되었습니다. 스트리밍 및 휴먼-인-더-루프(human-in-the-loop, LangGraph에서 다룬 기능) 외에도 다음 기능을 추가로 제공합니다:

Double-texting: 현재 실행 중인 그래프의 스레드에 대한 새로운 사용자 입력을 처리할 수 있습니다. 이 기능은 추가 컨텍스트를 처리하기 위해 거부(reject), 큐잉(queue), 인터럽트(interrupt), 롤백(rollback) 네 가지 다른 전략을 지원합니다.
비동기 백그라운드 작업 (Asynchronous background jobs): 장시간 실행되는 작업을 위한 기능입니다. 폴링(polling) 또는 웹훅(webhook)을 통해 완료 여부를 확인할 수 있습니다.
크론 작업 (Cron jobs): 정해진 스케줄에 따라 일반적인 작업을 실행하는 데 사용됩니다.

LangGraph Cloud는 또한 에이전트 앱의 협업, 배포 및 모니터링 경험을 더욱 통합적으로 개선합니다. 여기에는 LangGraph Studio가 포함되어 있는데, 이는 에이전트 궤적(agent trajectories)을 시각화하여 실패 모드를 디버깅하고 인터럽션, 상태 편집, 재개(resumption), 타임 트래블(time travel)을 위한 중단점(breakpoints)을 추가하는 데 도움을 주는 플레이그라운드 같은 공간입니다. LangGraph Studio를 사용하면 내부 이해관계자들과 LangGraph 에이전트를 공유하여 피드백을 받고 빠르게 반복 작업을 수행할 수 있습니다.

또한, LangGraph Cloud는 배포 과정을 단순화합니다. GitHub에서 LangGraph 레포지토리를 선택하기만 하면 클릭 한 번으로 에이전트 애플리케이션을 배포할 수 있으며, 인프라 전문 지식이 필요하지 않습니다. 게다가 LangGraph Cloud가 LangSmith에 통합되어 있기 때문에, 프로덕션 환경에서도 앱에 대한 더 깊은 가시성을 확보하고 사용량, 오류, 성능 및 비용을 추적하고 모니터링할 수 있습니다.

LangGraph를 통해 이미 발전을 이루고 있는 Ally Financial과 같은 파트너들의 지원을 받아 LangGraph Cloud 출시를 기대합니다.

“Ally가 생성형 AI 탐색을 진전시키면서, 저희 기술 연구소는 LangChain의 새로운 라이브러리인 LangGraph에 큰 기대를 하고 있습니다. 이 라이브러리는 다중 액터 에이전트 워크플로우(multi-actor agentic workflows) 실험의 핵심입니다. 저희는 LangChain과의 파트너십을 더욱 깊게 할 것을 약속드립니다.” - Sathish Muthukrishnan (Ally Financial 최고 정보, 데이터 및 디지털 책임자)

직접 사용해 보세요

LangGraph를 시작하려면 GitHub 프로젝트로 이동하여 설치 지침을 따르기만 하면 됩니다.

저희는 에이전트를 구축하는 데 독특한 접근 방식을 가지고 있다고 믿습니다. 이 방식은 기업 특화 워크플로우(company specific workflow)를 중심에 두고, 프로덕션 배포에 필요한 제어권을 제공합니다. 저희의 희망은 이러한 도구들이 출시됨으로써 사용자 기대치와 에이전트 역량 간의 격차를 좁히는 데 한 걸음 더 다가서는 것입니다.

피드백이 있으시면 [email protected]로 알려주세요!

다음 추가 자료에서 더 많은 정보를 얻으세요: