Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
Kubernetes 환경에서 셀프 호스팅 LangSmith의 운영 복잡성을 줄여주는 'Mission Control'을 소개합니다. 클러스터 내부에서 단일 인터페이스를 통해 구성, 상태 확인, 진단 및 문제 해결을 통합 관리할 수 있습니다.
성공적인 AI 에이전트 운영을 위한 구축, 테스트, 배포, 모니터링의 4단계 개발 라이프사이클을 소개합니다. 단순한 데모를 넘어 반복 가능하고 체계적인 시스템을 구축하는 방법론을 다룹니다.
Monday.com이 LangSmith를 활용하여 AI 에이전트의 품질을 개발 초기 단계부터 검증하는 '평가 주도 개발 프레임워크' 구축 사례를 소개합니다. LangGraph 기반 ReAct 에이전트의 자율성으로 인한 오류를 방지하기 위해 오프라인 평가와 실시간 모니터링을 결합한 이중 계층 접근 방식을 제안합니다.
LangChain이 코딩 에이전트의 급격한 사용량 증가로 인한 비용 폭주를 방지하기 위해 LangSmith LLM Gateway를 구축했습니다. 이 게이트웨이는 조직, 워크스페이스, 사용자별로 예산을 설정하고 실시간으로 지출을 모니터링하여 비용 예측 가능성을 높입니다.
LangSmith가 LLM 평가자와 인간의 선호도를 일치시키는 새로운 기능인 'Align Evals'를 출시했습니다. 이 기능은 LLM-as-a-judge 평가 프로세스를 간소화하고, 평가 프롬프트 개선 및 정렬 점수 확인을 통해 고품질의 평가 환경을 구축하도록 돕습니다.
Deep Agents SDK는 AI 에이전트의 컨텍스트 부패를 방지하고 메모리 제약을 관리하기 위한 컨텍스트 관리 기술을 제공합니다. 파일 시스템 오프로딩과 요약 기술을 통해 대규모 작업 중에도 효율적인 컨텍스트 유지가 가능합니다.
에이전트 엔지니어링은 비결정론적인 LLM 시스템을 신뢰할 수 있는 프로덕션 환경으로 구축하는 반복적인 프로세스를 의미합니다. 이는 제품 사고, 엔지니어링, 데이터 과학이라는 세 가지 핵심 기술 세트가 결합된 새로운 학문 분야입니다.
Monte Carlo가 LangGraph와 LangSmith를 활용하여 데이터 및 AI 관측성을 위한 다중 에이전트 시스템을 구축한 사례를 소개합니다. 수백 개의 하위 에이전트가 병렬로 가설을 검증하여 데이터 문제의 근본 원인을 자동으로 조사하고 분석합니다.
에이전트가 안정적으로 업무를 수행하기 위해 필요한 '루프 엔지니어링'의 개념과 단계별 설계 방법을 설명합니다. 단순한 도구 호출을 넘어 검증 루프를 통해 결과물의 품질을 높이는 구조를 다룹니다.
Fleet은 일회성 작업을 위한 범용 채팅과 반복적 업무를 위한 특화된 에이전트라는 두 가지 패턴을 제공합니다. 범용 채팅은 광범위한 컨텍스트를 처리하며, 특화된 에이전트는 지속적인 지침과 도구를 통해 일관된 반복 작업을 수행합니다.
LangSmith가 Fireworks와 협력하여 비용 효율적인 '인지된 오류(Perceived Error)' 감지 모델을 구축했습니다. Qwen 모델을 미세 조정하여 프론티어 모델 수준의 성능을 유지하면서도 비용을 최대 100배 절감했습니다.
신뢰할 수 있는 에이전트 시스템 구축을 위한 프레임워크의 본질과 설계 철학을 다룹니다. 에이전트 추상화와 오케스트레이션의 차이를 설명하며, LangGraph가 지향하는 방향성을 제시합니다.
Cognition과 Anthropic의 사례를 통해 멀티 에이전트 시스템 구축 시 핵심인 '컨텍스트 엔지니어링'의 중요성을 분석합니다. 단순 프롬프트를 넘어 동적인 컨텍스트 관리와 메모리 메커니즘이 에이전트 성능의 핵심임을 설명합니다.
LangSmith의 새로운 기능인 쌍체 평가(Pairwise Evaluations)를 소개합니다. LLM 응답을 개별 점수로 매기는 대신, 두 응답을 동시에 비교하여 인간의 선호도를 더 효과적으로 모방하고 모델 성능을 정밀하게 측정하는 방법을 다룹니다.
AI 에이전트가 코드를 실행할 때 발생할 수 있는 보안 위험을 방지하기 위한 샌드박스 선택 가이드를 제공합니다. 프롬프트 인젝션 공격으로부터 데이터와 시스템을 보호하기 위한 '치명적인 삼중주' 개념과 안전한 실행 환경 구축의 중요성을 다룹니다.
Box는 기업용 콘텐츠 에이전트인 Box Agent를 구축하기 위해 Deep Agents 프레임워크를 도입했습니다. 부모-자식 에이전트 구조를 통해 복잡한 의도를 분류하고, 다양한 LLM을 유연하게 사용할 수 있는 에이전트 중심 아키텍처를 구현했습니다.
SmithDB는 객체 스토리지에 저장된 대규모 JSON 문서에 대해 고성능 전문 검색 및 JSON 필터링을 지원합니다. 에이전트 트레이스의 거대한 페이로드 특성을 고려하여 기존 로그 엔진과 차별화된 역색인(Inverted Index) 접근 방식을 제안합니다.
대부분의 에이전트 도구가 서버 측에 국한되어 발생하는 클라이언트 환경과의 격차를 분석합니다. LangChain의 헤드리스 도구를 활용해 브라우저 API와 로컬 상태를 에이전트 루프에 통합하는 방법을 제시합니다.
Benchling의 AI 책임자가 과학 연구를 위한 에이전트 구축 전략을 공유합니다. 여러 모델을 교차 검증하여 데이터 품질을 높이고, 프로덕션 트레이스 리뷰를 통해 에이전트의 성능을 관리하는 실무적인 방법론을 다룹니다.
디지털 헬스 기업 Numan이 AI 건강 코치 'Nu'의 품질을 개선하기 위해 구축한 자가 개선 평가 루프를 소개합니다. 기존의 정적 데이터나 스크립트 기반 평가의 한계를 극복하기 위해 LLM 페르소나를 활용한 멀티 턴 대화 시뮬레이션 방식을 채택했습니다.