Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
본 기사는 헬스케어 및 생명과학 분야에서 에이전트 프로그램 구축의 특성과 잠재력을 다룹니다. Madrigal, Abridge, Vizient 등의 사례를 통해 이 산업은 높은 신뢰성, 규정 준수(compliance), 환자 안전 요구사항을 충족해야 하므로 일반적인 AI 개발과 다른 인프라 계층이 필요함을 강조합니다.
Included Health가 LangGraph와 Deep Agents를 활용하여 구축한 헬스케어 플랫폼 'Dot'은 기존의 경직된 의사 결정 트리 방식에서 벗어나, 복잡하고 개인화된 의료 여정을 지원하는 연합형 멀티 에이전트 아키텍처를 제시합니다. 이 시스템은 사용자의 맥락과 필요에 맞춰 적응하며, 단순한 정보 제공을 넘어 실질적인 헬스케어 내비게이션 역할을 수행합니다.
Deep Life Sci는 생명과학 분야의 R&D 비용 증가 문제를 해결하기 위해 개발된 오픈 소스 에이전트형 어시스턴트입니다. 이 시스템은 수천만 건의 과학 논문과 임상 데이터를 활용하며, 안전한 샌드박스 환경에서 데이터 분석을 수행하고 여러 서브 에이전트에 작업을 위임합니다. 이를 통해 기업들이 자체 지능을 소유하고 커스터마이징할 수 있게 합니다.
TypeSafe AI가 출시한 Jev는 텍스트 생성 대신 유형화된 답변을 반환하는 새로운 에이전트 평가 도구입니다. 이는 기존의 코드 기반 또는 LLM 심사관 방식의 한계를 극복하며, 높은 일관성, 속도, 저렴함을 자랑합니다. System One 모델로 불리는 Jev는 에이전트 엔지니어링에 새로운 방향을 제시할 것으로 기대됩니다.
본 기사는 LangSmith를 활용하여 의료 AI 시스템의 평가 및 검증 과정을 혁신하는 방법을 다룹니다. Abridge와 Included Health 같은 기업들은 LangSmith를 통해 임상 검토 데이터를 재사용 가능한 자산으로 변환하고, 이를 통해 릴리스 주기를 단축하며 안전성과 신뢰성을 높이고 있습니다.
LangSmith에 새로운 기능인 Trajectories가 도입되어, 복잡한 에이전트 세션의 추적(trace)을 시간 순서적이고 가독성 높은 경로로 보여줍니다. 이는 여러 턴, 도구 호출, 서브에이전트를 포함하는 장시간 실행 에이전트의 디버깅 효율성을 크게 높여줍니다. SMEs는 중첩된 트레이스 없이도 에이전트 행동을 쉽게 검토할 수 있으며, 온라인 평가기를 통해 Trajectories를 점수화하고 데이터셋으로 활용하여 모델 개선에 사용할 수 있습니다.
Managed Deep Agents (MDA) 0.8 버전이 출시되어 프로덕션 환경에서 에이전트를 구축하고 배포하는 과정을 간소화했습니다. 이 업데이트는 사용자 소유 자격 증명, 사용자 수준 메모리, HTTP 채널 지원 및 Parallel 기반 웹 검색 기능을 추가하여 엔지니어링 팀의 부담을 줄입니다.
새로운 LangSmith Fine-Tuning CLI인 `smithtune`이 출시되어 에이전트 트래젝토리를 파인튜닝 모델로 연결하는 엔드투엔드 워크플로우를 제공합니다. 이 도구는 데이터셋 생성, 학습(Fireworks/Baseten 사용), 평가까지 단일 CLI에서 처리하며, 사후 학습을 위한 지도 파인튜닝(SFT)을 지원합니다.
LangSmith Engine v2가 출시되어 에이전트 개발 라이프사이클(ADLC) 전반의 자동화 및 문제 해결 능력을 강화했습니다. 주요 기능으로는 프로덕션 환경에 배포되기 전 버그와 프롬프트 문제를 선제적으로 감지하는 Red Teaming과, 비효율성, 오류율, 비용 추세 등 발견하기 어려운 문제들을 찾아내는 기능이 추가되었습니다.
TypeSafe가 출시한 Jev는 텍스트 생성 대신 구조화된 결정을 내리는 새로운 모델입니다. 이는 에이전트의 라우팅 및 분류와 같은 좁은 결정 작업에서 기존 LLM 대비 압도적인 속도와 비용 효율성을 제공합니다. LangGraph를 활용하여 Jev의 장점을 극대화함으로써, 신뢰할 수 있고 관찰 가능한 '프로덕션'급 AI 시스템을 구축하는 방법을 제시합니다.
LangSmith에 새롭게 추가된 기능들을 통해 에이전트 개발 라이프사이클 전반을 강화했습니다. Engine v2는 레드팀잉 및 확장 이슈 감지 기능을 제공하여 문제 발생을 사전에 예방합니다. 또한, 관리형 Deep Agents와 파인튜닝 기능을 활용해 사용자 메모리 기반의 전문적인 에이전트를 쉽게 구축하고 배포할 수 있습니다.
LangSmith의 Custom Apps 기능 출시로, 사용자가 LangSmith 데이터를 기반으로 맞춤형 UI를 쉽게 구축하고 워크스페이스 내에서 공유할 수 있게 되었습니다. 이 기능을 통해 별도의 호스팅이나 인증 과정 없이도 에이전트 트레이스, 실험 결과 등을 검토하는 커스텀 인터페이스를 만들고 재사용할 수 있습니다.
Jev라는 System One 모델이 LangSmith의 평가(evaluations) 심사위원으로 사용 가능해졌습니다. Jev는 개방형 에이전트 동작을 빠르고 저렴하게 평가하고, 그 결과를 구조화된 피드백으로 변환하여 추적할 수 있게 합니다. 이는 기존 코드 기반 및 LLM-as-a-judge 방식의 한계를 보완하는 세 번째 평가 방식을 제시합니다.
코딩 에이전트 사용량 폭증으로 인해 기업들의 AI 비용 관리가 심각한 문제로 대두되고 있습니다. 여러 도구에서 발생하는 활동 기록의 파편화(fragmentation) 때문에 어떤 에이전트가 가장 큰 가치를 창출하는지 측정하기 어렵습니다. 해결책은 모든 코딩 에이전트 사용 세션을 단일 뷰로 통합 추적하고, 비용 상한선 설정 및 저렴한 오픈 소스 모델 라우팅을 통해 지출을 통제하는 것입니다.
에이전트 성능 개선의 핵심은 실행 과정에서 발생하는 트레이스(Traces) 데이터를 마이닝하여 지속적 학습 루프를 구축하는 것입니다. 이를 위해 관측 가능성(Observability) 확보와 대규모 데이터 큐레이션 역량이 필수적입니다.
OpenWiki는 코딩 에이전트가 코드베이스를 더 잘 이해할 수 있도록 저장소 문서를 자동으로 생성하고 유지 관리하는 오픈 소스 도구입니다. 코드가 변경될 때마다 위키를 최신 상태로 업데이트하여 에이전트에게 구조화된 컨텍스트를 제공합니다.
LangChain이 채팅 로그에서 구조화된 정보를 추출하는 LLM의 능력을 측정하기 위한 새로운 'Chat Extraction' 데이터셋을 공개했습니다. 이 데이터셋은 비구조화된 텍스트 분류 및 기계 판독 가능한 정보 생성 능력을 테스트하여 LLM 애플리케이션 개발의 실질적인 도전 과제를 다룹니다.
LLM 에이전트의 핵심 역량인 도구 사용(Tool Use) 능력을 평가하기 위한 네 가지 새로운 벤치마크 환경을 소개합니다. 계획 수립, 함수 호출, 사전 학습된 편향 극복 능력을 테스트하며 다양한 모델의 성능 차이를 분석합니다.
에이전트의 컨텍스트 부패 문제를 해결하기 위해 재귀적 언어 모델(RLM)을 활용하는 방법을 소개합니다. RLM은 컨텍스트를 모델 윈도우에 직접 넣는 대신 REPL 환경에서 코드를 실행하여 대규모 데이터를 효율적으로 처리합니다.
Pendo는 LangSmith를 활용하여 사용자 행동 데이터를 분석하고 코드를 자동으로 수정하는 제품 에이전트 'Novus'를 구축했습니다. Novus는 세션 리플레이와 행동 데이터를 기반으로 사용성 문제를 감지하고, 근본 원인을 진단하여 즉각적인 코드 수정을 제안함으로써 제품 피드백 루프를 완성합니다.