Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
Cognition과 Anthropic의 사례를 통해 멀티 에이전트 시스템 구축 시 핵심인 '컨텍스트 엔지니어링'의 중요성을 분석합니다. 단순 프롬프트를 넘어 동적인 컨텍스트 관리와 메모리 메커니즘이 에이전트 성능의 핵심임을 설명합니다.
LangSmith의 새로운 기능인 쌍체 평가(Pairwise Evaluations)를 소개합니다. LLM 응답을 개별 점수로 매기는 대신, 두 응답을 동시에 비교하여 인간의 선호도를 더 효과적으로 모방하고 모델 성능을 정밀하게 측정하는 방법을 다룹니다.
AI 에이전트가 코드를 실행할 때 발생할 수 있는 보안 위험을 방지하기 위한 샌드박스 선택 가이드를 제공합니다. 프롬프트 인젝션 공격으로부터 데이터와 시스템을 보호하기 위한 '치명적인 삼중주' 개념과 안전한 실행 환경 구축의 중요성을 다룹니다.
Box는 기업용 콘텐츠 에이전트인 Box Agent를 구축하기 위해 Deep Agents 프레임워크를 도입했습니다. 부모-자식 에이전트 구조를 통해 복잡한 의도를 분류하고, 다양한 LLM을 유연하게 사용할 수 있는 에이전트 중심 아키텍처를 구현했습니다.
SmithDB는 객체 스토리지에 저장된 대규모 JSON 문서에 대해 고성능 전문 검색 및 JSON 필터링을 지원합니다. 에이전트 트레이스의 거대한 페이로드 특성을 고려하여 기존 로그 엔진과 차별화된 역색인(Inverted Index) 접근 방식을 제안합니다.
대부분의 에이전트 도구가 서버 측에 국한되어 발생하는 클라이언트 환경과의 격차를 분석합니다. LangChain의 헤드리스 도구를 활용해 브라우저 API와 로컬 상태를 에이전트 루프에 통합하는 방법을 제시합니다.
Benchling의 AI 책임자가 과학 연구를 위한 에이전트 구축 전략을 공유합니다. 여러 모델을 교차 검증하여 데이터 품질을 높이고, 프로덕션 트레이스 리뷰를 통해 에이전트의 성능을 관리하는 실무적인 방법론을 다룹니다.
디지털 헬스 기업 Numan이 AI 건강 코치 'Nu'의 품질을 개선하기 위해 구축한 자가 개선 평가 루프를 소개합니다. 기존의 정적 데이터나 스크립트 기반 평가의 한계를 극복하기 위해 LLM 페르소나를 활용한 멀티 턴 대화 시뮬레이션 방식을 채택했습니다.
LangGraph를 사용하여 프로덕션 환경의 AI 에이전트에서 발생하는 네트워크 장애, 도구 호출 오류, LLM 속도 제한 등을 처리하는 방법을 다룹니다. 재시도 정책, 타임아웃 정책, 에러 핸들러라는 세 가지 핵심 요소를 통해 에이전트의 결함 허용 능력을 높이는 가이드를 제공합니다.
소프트웨어 패러다임이 에이전트 시대로 전환됨에 따라 AI 모델 벤더 종속(Vendor Lock-in)의 위험성을 경고합니다. 클라우드 시대의 교훈을 바탕으로, 모델을 범용 제품으로 취급하고 중립적인 추상화 계층을 확보해야 함을 강조합니다.
에이전트의 유용성을 결정하는 핵심 요소인 '하네스(Harness)'의 개념과 구축 방법을 설명합니다. LangChain의 create_agent를 활용하여 미니멀한 에이전트 루프를 구현하고, 미들웨어를 통해 세밀한 커스터마이징을 수행하는 가이드를 제공합니다.
Rubrics는 에이전트가 자신의 결과물을 스스로 평가하고 수정할 수 있도록 채점 루프(grader loop)를 추가하는 미들웨어 기술을 소개합니다. LLM과 도구를 활용해 체크리스트를 기반으로 출력을 검증하고, 오류 발생 시 반복적인 수정을 통해 품질을 높입니다.
법률 에이전트의 성능 평가 및 강화학습 시 발생하는 검증 비용 문제를 해결하기 위한 효율적인 검증기 설계 방안을 다룹니다. 배치 처리와 오픈 모델 활용을 통해 검증 비용을 최대 10배 절감하고 프롬프트 튜닝으로 정밀도를 높이는 방법을 제안합니다.
Rippling은 LangChain의 Deep Agents와 LangSmith를 활용하여 6개월 만에 전 제품에 AI Native 기능을 구현했습니다. 복잡한 데이터 온톨로지 문제를 해결하기 위해 멀티 에이전트 아키텍처를 도입하고, 프로덕션 환경의 디버깅과 품질 개선을 위해 계층적 평가 시스템을 구축했습니다.
에이전트가 지침(instructions)을 넘어 직접 코드를 실행할 수 있는 '인터프리터 기술(interpreter skills)' 개념을 소개합니다. 기술이 API 역할을 수행하여 결정론적인 코드 실행과 모델의 의사결정을 결합함으로써 에이전트 워크플로우를 더욱 정교하게 관리할 수 있습니다.
Lyft는 LangGraph와 LangSmith를 활용하여 비기술적 도메인 전문가가 직접 AI 에이전트를 구축할 수 있는 셀프 서비스 플랫폼을 개발했습니다. 이를 통해 에이전트 개발 기간을 6개월에서 수 주 단위로 단축하고 멀티 에이전트 아키텍처로 복잡한 고객 지원 워크플로우를 자동화했습니다.
LangSmith Auth Proxy를 활용하여 에이전트 샌드박스의 네트워크 액세스를 안전하게 보호하는 방법을 설명합니다. 인증 헤더를 네트워크 계층에서 주입함으로써 자격 증명을 샌드박스 외부에 유지하고 보안 위협을 최소화합니다.
현대적인 AI 에이전트는 단순한 텍스트 토큰 출력을 넘어 도구 호출, 하위 에이전트 활동, 상태 변경 등 구조화된 이벤트 스트림을 필요로 합니다. LangChain과 LangGraph는 타입이 지정된 애플리케이션 이벤트를 통해 복잡한 에이전트 워크플로우를 효율적으로 스트리밍하고 렌더링할 수 있는 아키텍처를 제공합니다.
OpenAI가 고객사와의 협업을 통해 실험한 다양한 RAG(검색 증강 생성) 전략과 구현 방법을 소개합니다. 쿼리 확장, HyDE, 스텝백 프롬프팅 등 검색 품질을 높이는 기술부터 데이터 소스에 따른 라우팅 및 SQL 쿼리 생성 전략까지 폭넓은 방법론을 다룹니다.
자연어 사용자 인터페이스(LUI)를 통해 정형, 반정형, 비정형 데이터를 효과적으로 검색하기 위한 '쿼리 구성(Query Construction)'의 개념과 중요성을 다룹니다. 단순한 벡터 유사도 검색을 넘어, 데이터의 구조적 특성에 맞춰 자연어를 SQL이나 Graph 쿼리 등 적절한 구문으로 변환하는 전략을 설명합니다.