Interrupt 2025가 막을 내렸습니다! 올해는 전 세계에서 800명의 인원이 San Francisco에 모여 LangChain의 첫 번째 산업 컨퍼런스에서 에이전트 (Agents)를 구축하는 팀들의 이야기를 들었으며, 저희는 여전히 그 열기 속에 있습니다! Cisco, Uber, Replit, LinkedIn, Blackrock, JPMorgan, Harvey 등이 참여하여 아키텍처 (Architectures), 평가 (Evals), 관측 가능성 (Observability), 그리고 프롬프팅 전략 (Prompting strategies)에 대한 교훈, 즉 그들이 겪은 도전 과제와 성공 사례를 공유했습니다.

행사를 마치며 저희가 느낀 가장 중요한 점은 에이전트 (Agents)의 시대가 도래했다는 것이며, 이 산업의 미래에 대해 그 어느 때보다 낙관적이라는 것입니다. 현장에 함께하지 못하셨다면, 향후 몇 주 동안 모든 강연 녹화본을 포함한 콘텐츠를 공유할 예정입니다. 콘텐츠가 공개되는 즉시 받아보시려면 여기에서 신청하세요!

행사의 주요 테마와 제품 출시 소식을 계속해서 확인해 보세요!

놓치신 분들을 위하여 ✨

기조 연설 테마:

Interrupt에서 진행된 Harrison의 오프닝 기조 연설은 몇 가지 핵심적인 믿음을 강조했습니다:

에이전트 엔지니어링 (Agent Engineering)은 새로운 학문 분야입니다 – 소프트웨어 엔지니어링 (Software engineering), 프롬프팅 (Prompting), 제품 (Product), 그리고 머신러닝 (Machine learning)의 장점에서 영감을 받아, 저희는 코드를 작성하고, 적절한 문맥 (Context)을 위해 프롬프트를 엔지니어링하며, 비즈니스 워크플로우 (Business workflows)를 이해하여 에이전트로 전환하고, 머신러닝 (ML)과 유사하게 가능성 (Likelihoods)과 분포 (Distributions)를 이해해야 한다고 믿습니다. 이 네 가지 분야 모두에 능숙해지는 것은 매우 어려운 과제입니다. 에이전트를 어디에나 존재하게 만들겠다는 저희의 사명을 완수하기 위해, 여러분의 초기 강점이 무엇이든 간에 모든 사람을 100배 더 뛰어난 에이전트 엔지니어 (Agent engineer)로 만들고자 합니다.

LLM 앱은 다양한 모델에 의존하게 될 것입니다. 현재 LangChain 패키지는 주로 기업들에게 모델 선택권 (Model optionality)을 제공하는 데 중점을 두고 있습니다. LangChain은 현재까지 3번의 안정적인 릴리스 (Stable releases)를 진행했으며, 통합 (Integrations)의 깊이와 넓이에 전력을 다하고 있습니다. 개발자들은 LangChain이 제공하는 선택권과 유연성을 원하며, 그 결과 LangChain은 지난 한 달 동안 7,000만 회 이상 다운로드되었습니다. 이는 OpenAI SDK보다도 많은 수치입니다 🤯.

LangGraph는 신뢰할 수 있는 에이전트를 구축하는 방법입니다. 에이전트를 구축할 때 가장 어려운 부분 중 하나는 LLM(Large Language Model)에 적절한 컨텍스트(Context)를 전달하는 것입니다. 우리의 에이전트 오케스트레이션(Agent Orchestration) 프레임워크인 LangGraph는 인지 아키텍처(Cognitive Architecture)에 대한 완전한 저작권을 부여하여, 워크플로우(Workflow)와 정보 흐름을 제어할 수 있게 해줍니다. 이러한 저수준 제어(Low-level control) 기능은 에이전트 오케스트레이션 프레임워크로서 LangGraph를 독보적으로 만듭니다.

AI 관측성(AI Observability)은 다릅니다. 생성형 AI (GenAI) 애플리케이션을 다룰 때는 텍스트, 오디오 또는 이미지와 같이 밀도가 높고 비정형화된 정보를 다루게 됩니다. 에이전트 엔지니어는 애플리케이션에서 어떤 일이 일어나고 있는지 이해해야 하며, 이는 기존의 관측성 도구들이 지원하는 SRE(Site Reliability Engineer)와는 요구사항이 완전히 다른 사용자입니다. 만약 LangSmith의 총 트레이스(Trace) 볼륨이 업계의 전반적인 트렌드를 반영한다면, 더 많은 에이전트가 프로덕션(Production) 환경으로 이동하고 있다는 뜻이며, 이는 AI 관측성 스택의 필요성이 그 어느 때보다 중요해지고 있음을 의미합니다.

신제품 출시!

우리는 LangChain에서 제품을 출시하는 것을 매우 좋아하며, 이번에 정말 많은 것을 발표했습니다.

LangGraph Platform이 정식 출시(GA)되었습니다. LangGraph Platform은 장기 실행되는 상태 유지형(Stateful) 에이전트를 위한 배포 및 관리 플랫폼입니다. 오늘 바로 클릭 한 번으로 에이전트를 배포할 수 있으며, Cloud, Hybrid 및 완전한 셀프 호스팅(Self-hosted) 배포 방식을 지원합니다. 자세한 내용은 문서를 참조하거나 4분 분량의 워크스루(Walkthrough) 영상을 확인하세요.

Open Agent Platform – 오픈 소스 기반의 노코드 (No-code) 에이전트 빌더. 이제 개발자가 아니더라도 에이전트를 구축할 수 있습니다. UI를 통해 MCP 도구를 선택하고, 프롬프트 (Prompt)를 커스텀하며, 모델을 선택하고, 데이터 소스 및 다른 에이전트와 연결할 수 있습니다. LangGraph Platform을 기반으로 구동됩니다. 여기서 가입하세요.

LangGraph Studio v2. 이제 데스크톱 앱 없이도 LangGraph Studio를 로컬에서 실행할 수 있습니다. 이는 에이전트의 상호작용을 시각화하고 디버깅 (Debug)할 수 있는 에이전트 IDE (IDE)입니다. v2에서는 조사(Investigate)를 위해 스튜디오로 트레이스 (Trace)를 가져오고, 평가 (Evals)를 위한 데이터셋에 예시를 추가하며, UI에서 프롬프트를 직접 업데이트할 수 있는 기능을 제공합니다.

LangGraph Pre-Builts는 에이전트 구축에 드는 노력을 줄여줍니다. 에이전트를 구축할 때 반복적으로 사용되는 공통 아키텍처(Architecture)들이 있습니다. 예를 들어 Swarm, Supervisor, 도구 호출 (Tool-calling) 에이전트 등이 이에 해당합니다. 따라서 우리는 여러분의 애플리케이션에 이러한 아키텍처를 구현하는 부담을 줄이고자 합니다. LangGraph Pre-builts를 사용하면 더 적은 설정 코드 (Config code)로 공통 아키텍처를 활용할 수 있습니다.

LangSmith Observability에 이제 에이전트 전용 메트릭 (Metrics)이 포함됩니다. 도구 호출 (Tool calling) 및 궤적 추적 (Trajectory tracking) 지원을 추가하여, 에이전트가 취하는 일반적인 경로를 확인하고 비용이 많이 들거나, 느리거나, 불안정한 호출을 찾아낼 수 있습니다.

Open Evals 및 채팅 시뮬레이션 (Chat Simulations). 평가기 (Evaluator)를 작성하는 것은 지루한 작업입니다. 일부 평가는 애플리케이션이나 사용 사례 (Use case)에 매우 특화되어 있지만, 그렇지 않은 경우도 있습니다. 이는 좋은 소식인데, 저희가 대신 작성해 드릴 수 있기 때문입니다. 이제 코드, 추출 (Extraction), RAG, 에이전트 궤적 테스트 (Agent trajectory testing) 등에 유용한 오픈 소스 평가 카탈로그를 제공합니다. 또한 멀티 턴 대화 (Multi-turn conversation)를 위한 채팅 시뮬레이션 및 평가 기능도 출시하게 되어 기쁩니다. 여기서 확인해 보세요.

LLM-as-Judge: 정렬 (Alignment) 및 보정 (Calibration) (프라이빗 프리뷰 단계). LLM-as-judge는 더 많은 재량이나 판단이 필요할 때 성능을 평가하기 위한 환상적인 기술입니다. 하지만 판단자(Judge)조차 오류가 발생할 수 있습니다.

저희는 인간의 피드백 점수(human feedback scores)를 사용하여 LLM-as-a-judge 평가기를 부트스트랩(bootstrap)하고, 평가자가 제대로 작동하고 있는지 확인하기 위해 점수를 지속적으로 보정(calibrate) 및 감사(audit)할 수 있는 방법을 프라이빗 프리뷰(private preview)로 출시하게 되어 매우 기쁩니다. 관심이 있으시다면, 여기에서 액세스 권한을 신청해 주세요!

저희는 여러분과 함께 만들어 나갈 수 있어 매우 기쁘며, 이를 매년 열리는 행사로 만드는 것을 목표로 하고 있습니다. 커뮤니티 Slack, 저희 미트업(meetups)에서 뵙겠습니다. 그리고 내년 LangChain이 주최하는 Interrupt: The AI Agent Conference에서 다시 뵙겠습니다.