LangChain, NVIDIA와 협력하여 엔터프라이즈 에이전트 AI 플랫폼 발표

종합적인 에이전트 엔지니어링 플랫폼에 NVIDIA AI가 결합되어 기업들이 대규모로 프로덕션급 AI 에이전트를 구축, 배포 및 모니터링할 수 있게 합니다.

**2026년 3월 16일, 샌프란시스코 /PRNewswire/ ** — LangSmith의 개발사이며 10억 건 이상의 다운로드를 기록한 오픈 소스 프레임워크를 보유한 에이전트 엔지니어링 기업인 LangChain은 오늘 NVIDIA와의 종합적인 통합을 발표하며 엔터프라이즈급 에이전트 AI 개발 플랫폼을 제공합니다. 이번 협력의 일환으로, LangChain은 또한 공유된 전문 지식, 데이터 및 컴퓨팅 파워를 통해 최첨단 오픈 AI 모델을 발전시키기 위한 NVIDIA의 글로벌 이니셔티브인 Nemotron Coalition에 참여하게 됩니다.

이번 협력은 LangChain의 LangSmith 에이전트 엔지니어링 플랫폼과 오픈 소스 프레임워크(Deep Agents, LangGraph, LangChain)를 NVIDIA Agent Toolkit, 여기에는 NVIDIA Nemotron 모델, NVIDIA NeMo Agent Toolkit 프로파일링 및 최적화, NVIDIA NIM 마이크로서비스, 그리고 NVIDIA Dynamo가 결합하여 개발자들에게 프로덕션 환경에서 AI 에이전트를 구축, 배포 및 지속적으로 개선할 수 있는 완벽한 스택을 제공합니다. 이 플랫폼은 또한 자율적이고 자체 진화하는 에이전트를 정책 기반 가드레일(policy-based guardrails)로 격리시키는 보안 런타임인 NVIDIA OpenShell도 통합하고 있습니다. 개발팀들은 비즈니스 가치를 전달하기보다는 맞춤형 인프라를 구축하는 데 몇 달을 보내는 경우가 많습니다. LangChain-NVIDIA 플랫폼은 바로 그 간극을 메우도록 설계되었습니다.

플랫폼이 제공하는 것

LangGraph, Deep Agents, 그리고 AI-Q로 구축하기: 결합된 LangChain-NVIDIA 스택은 개발자가 점진적으로 복잡도가 높아지는 수준으로 에이전트를 구축할 수 있도록 지원합니다. LangGraph는 복잡한 제어 흐름과 인간 개입(human-in-the-loop) 패턴을 가진 상태 기반 다중 에이전트 오케스트레이션의 런타임을 제공합니다. LangChain의 에이전트 하우징인 Deep Agents는 내장된 작업 계획(task planning), 서브 에이전트 스폰(sub-agent spawning), 장기 메모리, 그리고 컨텍스트 관리를 통해 한 단계가 수십 개에 달하는 과정에서 분 단위 또는 시간 단위로 실행되는 에이전트를 가능하게 합니다. Deep Agents를 기반으로 NVIDIA AI-Q Blueprint는 이번 협력의 대표적인 결과물입니다: 깊은 연구 벤치마크에서 #1을 차지하는 완전한 프로덕션급 엔터프라이즈 심층 연구 시스템입니다. NeMo Agent Toolkit은 팀이 최소한의 코드 변경만으로 기존 LangGraph 에이전트를 온보딩하고, 다중 에이전트 시스템 구성을 위한 고급 프로파일링, 평가, 그리고 MCP/A2A 프로토콜 지원에 즉시 접근할 수 있게 합니다.

NVIDIA를 활용하여 LangGraph 가속화하기: LangChain NVIDIA 소프트웨어 패키지는 노드 로직이나 그래프 엣지에 변경을 가하지 않고 컴파일 타임(compile time)에 적용되는 NVIDIA 최적화 실행 전략을 제공합니다. 병렬 실행은 독립적인 노드를 자동으로 식별하고 이를 동시에 실행하여 순차적 병목 현상을 제거합니다. 투기적 실행(Speculative execution)은 조건부 엣지의 두 분기를 동시에 실행한 후, 라우팅 조건이 해결되면 잘못된 분기는 폐기합니다. 이러한 최적화들이 결합되어 복잡한 다단계 에이전트 워크플로우의 엔드투엔드 지연 시간(end-to-end latency)을 크게 줄입니다.

NVIDIA NIM으로 배포: NIM 마이크로서비스는 클라우드, 온프레미스 및 하이브리드 환경 전반에 걸쳐 표준 배포 대비 최대 2.6배 높은 처리량(throughput)을 제공합니다. Nemotron 3 Super의 MoE 아키텍처는 단일 GPU에서 비용 효율적인 배포를 가능하게 합니다. NVIDIA NeMo Agent Toolkit은 인증, 속도 제한(rate limiting), 그리고 배포된 워크플로우 디버깅을 위한 내장 UI 등 프로덕션 준비 기능들을 추가합니다. 이 툴킷의 GPU 클러스터 크기 계산기는 팀들이 부하 상태에서 LangGraph 워크플로우를 프로파일링하고, 단일 사용자부터 수천 개의 동시 세션까지 확장하기 위한 정확한 하드웨어 요구 사항을 예측할 수 있게 합니다.

LangSmith 및 NeMo Agent Toolkit으로 모니터링: 150억 개 이상의 트레이스(traces)와 100조 토큰을 처리한 LangSmith는 애플리케이션 수준의 관측 가능성(observability)을 제공합니다. 여기에는 분산 추적(distributed tracing), 비용 및 지연 시간 모니터링, 사용 패턴 및 반복적인 실패 모드를 자동으로 감지하는 Insights Agent, 자연어 디버깅 및 프롬프트 엔지니어링을 위한 Polly, 그리고 트레이스 데이터 작업을 위한 LangSmith CLI가 포함됩니다. NeMo Agent Toolkit의 관측 가능성 시스템은 텔레메트리(telemetry)를 네이티브하게 LangSmith로 내보내, 인프라 수준 프로파일링(토큰 사용량, 타이밍, 개별 토큰 단위 처리량)과 LangSmith의 애플리케이션 수준 추적 및 AI 기반 분석을 단일 플랫폼에서 결합한 통합된 뷰를 생성합니다. 기업들이 책임감 있는 AI 관행을 수용하는 데 적절한 도구를 갖추도록 보장하기 위해, NVIDIA NeMo Guardrails는 LangChain과 기본적으로 통합되어 팀들이 콘텐츠 안전성 및 정책 준수를 강제하면서 사용 사례별로 가드레일(guardrails)을 맞춤 설정할 수 있도록 합니다.

Nemotron 모델 패밀리 전반에 걸쳐 평가하기: LangSmith와 NeMo Agent Toolkit은 전체 에이전트 라이프사이클에 걸친 포괄적인 평가 기능을 함께 제공합니다. LangSmith는 오프라인 평가(인간 검토, LLM-as-judge, 쌍별 비교, pytest/Vitest/GitHub 워크플로우를 통한 CI/CD 통합)와 작업 완료 및 의사 결정 품질을 점수화하는 다중 턴 평가를 포함한 온라인 평가를 지원합니다. NeMo Agent Toolkit은 RAG(검색 증강 생성) 전용 평가기, 에이전트 트래젝토리 분석, 하이퍼파라미터 및 프롬프트 최적화 기능을 통해 이를 보완합니다. 이러한 기능들은 Nemotron 모델 패밀리 전체에 걸쳐 적용될 때 특히 강력합니다: 팀들은 동일한 에이전트를 Nemotron 3 Nano(30B/3B 활성), Super(~100B/10B 활성), Ultra(~500B/50B 활성) 전반에 걸쳐 벤치마킹하여, 정확도, 지연 시간, 비용 간의 트레이드오프를 측정하고 작업별로 모델 선택을 적절하게 조정할 수 있으며, 이후 NeMo Agent Toolkit의 자동 강화학습(RL) 기능을 사용하여 선택된 Nemotron 모델을 특정 워크플로우에 맞게 미세 조정할 수 있습니다.

향후 전망

GPU 가속 컴퓨팅을 갖춘 딥 에이전트

이번 협력은 또한 Deep Agents, 즉 계획(planning), 영구 메모리(persistent memory), 서브-에이전트 조정(sub-agent coordination)이 필요한 장기 실행의 복잡한 작업을 위한 LangChain의 프레임워크가 NVIDIA CUDA-X 라이브러리가 구동하는 GPU 가속 컴퓨팅 샌드박스 내에서 작동할 수 있는 기반을 마련합니다. 이를 통해 에이전트는 대규모 구조화된 데이터 조작을 위한 NVIDIA cuDF와 페타바이트 규모의 데이터 큐레이션을 위한 NVIDIA NeMo Curator 같은 도구를 사용하여 계산 집약적인 데이터 처리를 수행할 수 있게 되어, 금융 서비스 및 의료와 같은 산업에 새로운 가능성을 열어줍니다.

Nemotron 연합 참여

Nemotron 연합 참여

LangChain은 최첨단 오픈 파운데이션 모델을 구축하기 위해 협력하는 모델 빌더 및 AI 개발자들의 글로벌 협력체인 Nemotron Coalition에 합류합니다. 이 연합은 참가자들이 데이터를 기여하고, 평가 프레임워크를 제공하며, 사후 학습 혁신을 공동의 기반(foundation)으로 통합할 수 있게 합니다. 동시에 각자의 산업과 사용 사례를 위해 독립적으로 전문화되고 차별화된 AI 시스템을 구축할 수도 있습니다.

연합에 합류함으로써 LangChain은 에이전트 개발자들의 요구사항을 염두에 두고 최첨단 오픈 모델의 역량을 형성하는 데 도움을 주는 것을 목표로 합니다. 이를 통해 프로덕션 에이전트를 구동하는 모델들이 실제로 배포하는 팀들로부터 입력을 받아 구축되도록 보장합니다. 이 파트너십은 개방적이고 투명한 AI 개발에 대한 공동의 의지, 그리고 고객들이 프로토타입에서 프로덕션으로 더 빠르게 이동할 수 있도록 돕는 도구와 인프라를 공동으로 제공하는 것을 반영합니다.

LangChain의 프레임워크가 월 1억 건 이상의 다운로드를 기록하면서, Harrison Chase LangChain 공동 창립자 겸 CEO는

LangChain과 NVIDIA의 통합은 오늘부터 사용 가능합니다. LangGraph와 LangChain 프레임워크는 github.com/langchain-ai에서 오픈 소스로 이용할 수 있습니다. LangSmith는 smith.langchain.com에서 이용 가능합니다. NVIDIA Nemotron 3 Nano 및 Super 모델은 업데이트된 LangChain 생태계 통합과 함께 NVIDIA NIM 마이크로서비스를 통해 Hugging Face에서 이용할 수 있으며, Nemotron 3 Ultra는 2026년 상반기에 출시될 예정입니다. NVIDIA NeMo Agent Toolkit은 github.com/NVIDIA/NeMo-Agent-Toolkit에서 이용 가능합니다.

LangChain 소개

LangChain은 AI 스타트업부터 글로벌 기업에 이르기까지 최고의 엔지니어링 팀을 지원하는 에이전트 엔지니어링 플랫폼입니다. LangChain, LangGraph, Deep Agents를 포함한 오픈 소스 프레임워크들은 누적 다운로드 10억 건을 돌파했으며, 백만 명 이상의 실무자들이 사용하고 있습니다. 관찰 가능성 및 평가 플랫폼인 LangSmith는 300개 이상의 기업 고객에게 서비스를 제공하며, 150억 개 이상의 트레이스와 100조 개의 토큰을 처리했습니다. LangChain은 Sequoia Capital, Benchmark, IVP의 지원을 받습니다. 더 자세한 정보는 langchain.com을 방문해 주십시오.

미디어 문의: [email protected]