오늘 우리는 LLM 기반 에이전트(agents)를 구축하기 위한 JavaScript/TypeScript 프레임워크인 LangGraph.js v0.2.0을 출시합니다. 새로운 기능은 다음과 같습니다:

유연한 스트리밍 (Flexible streaming): 다양한 스트리밍 모드를 통해 중간 단계(intermediate steps) 및 채팅 모델 메시지를 스트리밍할 수 있습니다.
내장된 체크포인팅 시스템 (A built-in checkpointing system): 과거 상태로 되돌아가고 잘못된 모델 응답과 같은 오류를 디버깅(debug)할 수 있습니다.
퍼스트 클래스 휴먼 인 더 루프 (First-class human-in-the-loop) 지원: 그래프의 어느 지점에서든 중단하고, 내부 상태를 업데이트하며, 다시 재개할 수 있습니다.
병렬 노드 지원 (Parallel node support): 여러 노드의 결과를 동시에 실행하고 결합할 수 있습니다.

또한 데스크톱용 에이전트 IDE인 LangGraph Studio와 에이전트 배포를 위한 확장 가능한 인프라스트럭처(infrastructure)인 LangGraph Cloud에서 LangGraph.js 프로젝트에 대한 베타 지원을 도입합니다.

LangGraph.js는 이미 최고의 AI 팀들이 중요한 문제들을 해결할 수 있도록 힘을 실어주고 있습니다. Elastic의 보안 분석을 위한 생성형 AI 및 ML 디렉터인 James Spiteri는 다음과 같이 강조합니다:

"LangGraph.js와 LangChain 생태계 전체는 Elastic의 보안용 AI 어시스턴트(AI Assistant), 공격 탐지(Attack Discovery) 및 자동 가져오기(Automatic Import) 아키텍처에서 핵심적인 요소였으며, 우리가 이러한 기능들을 기록적인 속도로 반복하고 프로덕션(production)에 적용할 수 있도록 도왔습니다. 우리는 LangChain 팀의 지속적인 개선과 협업에 깊은 인상을 받았으며, LangChain과 함께 계속해서 구축해 나가는 것에 기대가 큽."

JavaScript 커뮤니티를 위해, 이러한 새로운 기능들은 신뢰할 수 있는 에이전트를 구축, 디버깅 및 배포하기 위한 더욱 강력한 루프를 열어줍니다.

다룰 내용이 많으므로, 바로 시작해 보겠습니다!

JavaScript에서 LangGraph 0.2로 제어 가능한 에이전트 구축하기

전통적인 API와 달리, LLM은 실행 시간이 길고 비결정론적(non-deterministic)인 특성 때문에 개발자에게 독특한 과제를 안겨줍니다. 이러한 과제는 로직 내의 LLM 호출 횟수가 증가함에 따라 더욱 심화되며, 특히 모델에게 코드 실행에 대한 자율성을 부여하는 에이전트적 단계(agentic steps)를 도입할 때 더욱 그러합니다.

LangGraph.js는 JavaScript 개발자들에게 이러한 복잡성을 해결하고 에이전트(agents)를 중심으로 즐거운 경험을 창조할 수 있는 강력한 툴킷을 제공합니다. LangGraph.js는 여러분의 애플리케이션을 다음과 같이 개선할 수 있습니다:

응답성 (Responsiveness): 결과를 토큰 단위(token-by-token)로 스트리밍함으로써, 실시간 인터랙티브 경험을 제공하고 진행 상황을 즉시 보고할 수 있습니다. 즉각적인 피드백과 매끄러운 사용자 경험을 요구하는 웹 앱에는 다양한 스트리밍 모드를 갖추는 것이 매우 중요합니다.

회복 탄력성 (Resilience): 노드 수준의 재시도 정책(retry policies)과 체크포인팅(checkpointing)을 사용하여 애플리케이션의 견고함을 보장합니다. 서비스가 중단되거나 특정 단계가 실패하더라도, 애플리케이션은 원활하게 복구되어 이전 상태에서 실행을 재개할 수 있습니다.

액세스 제어 (Access control): 민감한 도구(tools)에 대해 사람의 승인이 필요하도록 제한할 수 있습니다. 이를 통해 애플리케이션을 보호하고 의도치 않은 결과가 발생할 위험을 줄일 수 있습니다.

LangGraph.js는 Node, Deno, Cloudflare Workers, Vercel의 Edge runtime을 포함한 대부분의 JS 런타임에서 실행되며, @langchain/langgraph/web 엔트리 포인트(entry point)를 통해 브라우저에서도 실행 가능합니다.

시작하는 데 도움이 되는 새로운 가이드(how-to guides), 튜토리얼, 개념 가이드가 포함된 개편된 문서를 확인해 보세요. 문서의 최신 변경 사항 및 업데이트에 대한 개요는 여기에서 요약을 볼 수 있습니다.

LangGraph Studio로 더 빠르게 반복하고 디버깅하기

LangGraph Studio는 에이전트를 디버깅하기 위한 최상의 경험을 제공합니다. 비동기 작업(async operations)이 포함된 동적인 TypeScript / JavaScript 환경에서는 데이터의 흐름을 이해하기 어려운 경우가 많으며, LLM 기반 에이전트가 추가적인 분기 로직(branching logic)의 복잡성을 더합니다.

LangGraph Studio는 TypeScript의 타입 추론(type inference)을 사용하여 그래프의 입출력을 자동으로 감지하므로, 로직에 대한 명확한 시각적 개요를 제공합니다. 이를 통해 다양한 데이터 흐름을 수동으로 추적할 필요가 없으며 디버깅이 간소화됩니다.

테스트할 때, 개별 상태(state)로 되돌아가서 다시 실행할 수 있습니다. 이를 통해 애플리케이션 전체를 재시작하지 않고도 문제를 식별하고 수정할 수 있습니다. 또한 인터럽트(interrupts)를 설정하여 로직을 단계별로 짚어가며 코드가 어떻게 실행되는지 검사할 수 있습니다. LangGraph Studio는 심지어 변경 사항을 실시간으로 적용하여 개발 속도를 높여주는 핫 리로드(hot reload)까지 지원합니다!

LangGraph Studio가 이제 LangGraph.js를 지원하게 되었음을 기쁘게 발표합니다. LangGraph Studio는 현재 베타 버전이며, 베타 기간 동안 모든 LangSmith 사용자에게 무료로 제공됩니다. 최신 릴리스는 [여기]에서 다운로드할 수 있으며, JavaScript 스타터 템플릿은 [이 리포지토리]에서 확인하실 수 있습니다.

기존에 사용 중인 그래프가 있다면, LangGraph.js와 LangChain core를 최신 버전으로 업데이트한 다음, 파일에서 그래프를 내보내고 경로와 메타데이터가 포함된 langgraph.json 파일을 추가해야 합니다.

LangGraph Cloud로 대규모 배포하기

로컬에서 LangGraph.js 그래프를 완벽하게 완성했다면, LangGraph Cloud에서 클릭 한 번으로 배포할 수 있습니다. 웹 규모(web-scale)에 맞게 설계된 LangGraph Cloud는 작업 큐(task queues)와 서버를 관리하고 프로비저닝하여, 에이전트가 많은 동시 사용자 수와 높은 트래픽을 처리할 수 있도록 도와줍니다.

운영 환경(production)에서 문제를 진단하기 위해, LangGraph Cloud는 상세한 트레이싱(tracing)을 위해 LangSmith와 통합되며 내장된 Postgres 체크포인터(checkpointer)를 사용합니다. 이 즉시 사용 가능한(out-of-the-box) 체크포인터는 상태(states)와 스레드(threads)를 저장하므로, 이전 상태로 되돌아가서 다시 실행할 수 있으며, 마치 로컬에서 개발하는 것처럼 문제를 해결하고 재현할 수 있습니다.

또한, LangGraph Cloud는 스트리밍(streaming)과 인간 참여(human-in-the-loop)를 넘어선 고급 실무 상호작용 패턴을 지원합니다. 여기에는 그래프의 활성 스레드에서 새로운 사용자 입력을 처리하기 위한 더블 텍스팅(double-texting), 오래 걸리는 작업을 관리하기 위한 비동기 백그라운드 작업(async background jobs), 그리고 예약된 프로세스를 자동화하기 위한 크론 작업(cron jobs)과 같은 기능이 포함됩니다.

LangGraph Cloud가 이제 Plus 또는 Enterprise 플랜을 사용하는 모든 LangSmith 사용자에게 베타 버전으로 제공됩니다. 지금 바로 LangSmith에 가입하여 무료로 체험해 보세요.

다음 단계는 무엇인가요?

이것은 시작일 뿐입니다. 저희는 장기적으로 LangGraph.js를 JavaScript에서 에이전트(agents)를 구축하는 가장 즐거운 방법으로 만들기 위해 전념하고 있습니다.

저희는 커뮤니티의 목소리와 피드백에 귀를 기울이고 있으며, 그들 중 상당수는 이미 프로덕션(production) 환경에서 LangGraph.js를 실행하고 있습니다. 여러분의 의견을 공유해 주시길 부탁드립니다. X(구 Twitter)를 통해 저희와 소통하거나, 커뮤니티 Slack 워크스페이스에 참여해 주세요.