LangSmith Context Hub 소개

핵심 요약 (Key Takeaways)

컨텍스트 (Context)가 에이전트의 행동을 결정합니다. 모델 및 코드와 더불어 컨텍스트(지침, 기술, 정책 등)는 에이전트의 성능에 막대한 영향을 미칩니다. 많은 실패 사례는 누락되었거나 오래된 컨텍스트에서 기인합니다.

컨텍스트는 코드와는 다른 저장 공간이 필요합니다. 컨텍스트는 종종 엔지니어가 아닌 사람들에 의해 작성되고 빠르게 변경되므로, GitHub가 항상 적합한 것은 아닙니다. 협업과 속도에 최적화된 도구가 필요합니다.

Context Hub가 이 모든 것을 중앙 집중화합니다. LangSmith의 새로운 기능인 Context Hub를 통해 팀은 에이전트 컨텍스트 파일을 저장, 버전 관리 및 협업할 수 있으며, 태그를 사용하여 다양한 환경에 적절한 컨텍스트를 배포할 수 있습니다.

오늘 우리는 에이전트가 어떻게 행동할지를 정의하는 파일들을 저장, 버전 관리 및 협업할 수 있는 공간인 LangSmith의 Context Hub를 출시합니다.

여기에는 AGENTS.md 파일, 기술 (skills), 정책 (policies), 예시 (examples) 및 에이전트가 의존하는 기타 파일 번들 (file bundles)이 포함됩니다. Context Hub는 이러한 파일들에 중앙 집중식 저장소를 제공하여, 팀이 에이전트 시스템의 다른 중요한 부분들을 관리하는 것과 동일한 방식으로 이를 관리할 수 있게 합니다.

컨텍스트가 중요한 이유

에이전트는 세 가지 주요 구성 요소, 즉 모델 (model), 하네스 (harness), 그리고 컨텍스트 (context)에 의해 형성됩니다.

**모델 (model)**은 추론 (reasoning)과 생성 (generation)을 담당합니다.

**하네스 (harness)**는 모델을 둘러싼 코드입니다. 이는 에이전트 루프 (agent loop), 도구 (tools), 상태 (state), 권한 (permissions) 및 기타 런타임 동작 (runtime behavior)을 정의합니다. 직접 하네스를 구축하거나 Deep Agents와 같은 사전 구축된 하네스를 사용할 수 있습니다.

**컨텍스트 (context)**는 에이전트가 읽고 따르는 정보입니다. 여기에는 시스템 지침 (system instructions), AGENTS.md 파일, 기술 (skills), 예시 (examples), 기업 정책 (company policies), 작성 가이드라인 (writing guidelines), 지원 절차 (support procedures) 및 도메인 특화 지식 (domain-specific knowledge)이 포함될 수 있습니다.

컨텍스트는 에이전트의 행동에 큰 영향을 미칩니다. 더 나은 모델이나 하네스가 도움이 될 수 있지만, 많은 에이전트 실패는 누락되었거나, 오래되었거나, 제대로 관리되지 않은 컨텍스트에서 발생합니다. 에이전트가 적절한 도구에 접근할 수 있더라도, 이를 잘 사용하기 위해서는 적절한 지침, 예시 및 정책이 필요합니다. 심지어 어떤 이들은 하네스 자체보다 컨텍스트에 투자하는 것이 더 중요하다고 주장하기도 합니다.

컨텍스트에 별도의 저장 공간이 필요한 이유

Harness 코드는 보통 GitHub이나 엔지니어링 팀이 코드를 관리하는 곳에 속합니다. 하지만 컨텍스트 (Context)는 종종 다른 워크플로 (Workflow)를 필요로 합니다.

첫째, 컨텍스트는 엔지니어링 외부의 인원들에 의해 관리되는 경우가 많습니다. LangChain에서는 브랜드 디자인, 블로그 작성, 제품 메시징 등을 위해 스킬 (Skills)을 사용합니다. 이러한 파일들을 생성하고 검토하기에 가장 적합한 사람들은 주로 디자이너, 마케터, 지원 팀장, 제품 관리자 (Product Managers) 또는 기타 도메인 전문가 (Subject Matter Experts)입니다. GitHub이 일부 팀에게는 유용할 수 있지만, 에이전트 (Agent)의 동작을 형성해야 하는 모든 사람에게 항상 적절한 인터페이스인 것은 아닙니다.

둘째, 컨텍스트는 빠르게 변합니다. 팀은 무엇이 효과적인지 학습함에 따라 지침을 업데이트하고, 예시를 개선하며, 정책을 추가하고, 스킬을 조정합니다. 에이전트 스스로 컨텍스트를 생성하고 업데이트할 수도 있습니다. 예를 들어, 에이전트가 특정 주제를 조사하여 일련의 참조 파일 (Reference files)을 생성하고, 이를 향후 다른 에이전트들이 사용할 수 있도록 저장할 수 있습니다.

Context Hub가 제공하는 것

Context Hub는 팀이 LangSmith 내에서 에이전트 컨텍스트를 관리할 수 있는 중앙 집중식 장소를 제공합니다.

이 서비스는 AGENTS.md 파일과 스킬 (Skills)을 기본적으로 지원하며, 다른 파일 번들 (File bundles)을 저장할 수 있을 만큼 충분히 유연합니다.

주요 기능 중 일부는 다음과 같습니다:

버전 관리 (Versioning): 컨텍스트 파일의 변경 사항을 추적하고, 이전 버전을 검토하며, 필요할 때 롤백 (Roll back)할 수 있습니다.
태그 (Tags): dev, staging 또는 prod와 같은 태그로 버전을 표시하여, 에이전트가 적절한 환경에 맞는 적절한 컨텍스트를 사용할 수 있도록 합니다.
댓글 (Comments): 컨텍스트 변경 사항에 대해 팀원들과 직접 협업할 수 있습니다.

목표는 컨텍스트를 에이전트 시스템의 일급 시민 (First-class part)으로서 관리하기 더 쉽게 만드는 것입니다.

LangSmith Context Hub 사용하기

LangSmith Context Hub를 사용하려면 먼저 스킬 (Skills)이나 다른 파일들을 업로드해야 합니다. 몇 가지 방법으로 수행할 수 있습니다.

UI에서 수동 정의: LangSmith UI에서 스킬이나 다른 파일들을 수동으로 생성합니다.

• LangSmith에서 Context Hub를 열고 새로운 레포지토리 (Repo)를 생성합니다. - 레포지토리 유형(skill 또는 agent)을 선택하고 핸들 (Handle, 예: support-style-guide)을 설정합니다. - UI 에디터에서 SKILL.md, AGENTS.md와 같은 파일들을 직접 생성합니다.

, 또는 정책/참조 문서(policy/reference docs) - 명확한 메시지와 함께 커밋(commit)으로 수정 사항을 저장합니다.

• dev, staging, 또는 prod와 같은 태그를 추가하여 에이전트가 해당 버전에 고정(pin)할 수 있도록 합니다.

로컬 컴퓨터에서 업로드: LangSmith CLI를 사용하여 로컬에 정의된 파일들을 업로드합니다.

# 0) 선택 사항: CLI에 Hub 명령어가 있는지 확인
langsmith --help | grep hub
# 1) 인증
...

스킬(skill) 저장소 대신 AGENTS.md 스타일의 저장소를 업로드하는 경우 --type agent를 사용하세요.

에이전트 생성: 에이전트가 컨텍스트(context)를 생성하게 할 수도 있습니다. 이는 Karpathy가 그의 LLM 위키(LLM wiki) 아이디어와 함께 처음 제안한 방식입니다. 전체 예시는 아래 섹션을 참조하세요.

컨텍스트가 존재하면, LangSmith Context Hub를 사용하는 몇 가지 방법이 있습니다.

디스크로 동기화 (Sync to disk): LangSmith CLI를 사용하여 스킬 및 기타 컨텍스트를 로컬 디스크로 가져옵니다(pull). 이를 통해 코딩 에이전트 및 기타 에이전트 하네스(agent harnesses)가 해당 파일들을 읽을 수 있습니다.

# 1) 최신 버전을 로컬 디스크로 가져오기
langsmith hub pull support-style --dir ./context/support-style
# 2) 재현 가능한 에이전트 실행을 위해 고정된 버전 가져오기
...

hub pull은 대상 디렉토리를 삭제하고 다시 작성하므로, 전용 폴더(예: ./context/...)를 사용하세요.

Deep Agents에서 가상 파일 시스템으로 사용: Context Hub를 Deep Agents의 가상 파일 시스템(virtual filesystem)으로 사용합니다.

예시 워크플로우 (Deep Agents SDK):

backend = CompositeBackend(
default=StateBackend(), # 스레드 범위(thread-scoped)
routes={
...

CompositeBackend은 접두사(prefix)를 기준으로 파일 시스템 경로를 라우팅합니다. 이 설정에서 /memories/*는 ContextHubBackend를 통해 LangSmith Context Hub에 영구 저장되는 반면, 다른 경로들은 StateBackend 내에서 스레드 범위(thread-scoped)로 유지됩니다. 이를 통해 전체 가상 파일 시스템을 영구화하지 않고도 내구성이 있는 장기 기억(long-term memory)을 가질 수 있습니다.

예시: LLM 위키 구축하기

우리는 에이전트가 주제를 조사하고 그 결과를 Context Hub 항목에 작성하는 워크플로우를 구축했습니다.

에이전트에게 조사 작업이 주어집니다. 에이전트는 정보를 수집하고, 찾은 내용을 정리하며, 향후 에이전트들이 참조할 수 있는 파일 폴더를 생성합니다. 해당 폴더에는 요약(summaries), 출처 노트(source notes), 용어(terminology), 예시(examples), 그리고 조사 내용을 사용하는 방법에 대한 지침(instructions) 등이 포함될 수 있습니다.

폴더가 Context Hub에 저장되면, 팀원들은 이를 검토하고, 댓글을 달고, 버전을 태깅하며, 다른 에이전트들이 사용할 수 있도록 설정할 수 있습니다.

Code: deepagents/examples/llm-wiki

# Clone the repo
git clone https://github.com/langchain-ai/deepagents.git
cd deepagents
...

시간이 흐르면서 생성되는 결과물:

/raw/* : 수집된 증거(evidence)를 유지합니다.
/wiki/* : 표준 지식 베이스(canonical knowledge base)가 됩니다.
/wiki/index.md : 탐색을 위해 최신 상태를 유지합니다.
log.md : 수집(ingest)/쿼리(query)/린트(lint) 업데이트를 연대순으로 추적합니다.

모든 실행은 Context Hub와 동기화되므로, 팀원들이 검토, 댓글 작성 및 버전을 승격(promote)할 수 있습니다.

이 패턴은 에이전트가 매 실행마다 처음부터 시작하는 대신, 시간이 지남에 따라 개선되는 지속 가능한 지식(durable knowledge)이 필요할 때 유용합니다.

Context Hub를 통한 지속적 학습 (Continual learning)

프로덕션 환경의 에이전트는 엣지 케이스(edge cases)에 직면하거나, 실수를 하거나, 초기 컨텍스트(initial context)가 예상하지 못한 상황을 마주하게 됩니다. 지속적 학습(Continual learning)은 실제 사용 사례를 바탕으로 시간이 지남에 따라 동작을 개선함으로써 그 간극을 메우는 방법입니다. 실제로 이러한 작업의 대부분은 컨텍스트 계층(context layer)인 AGENTS.md, 기술(skills), 정책(policies), 예시(examples), 그리고 메모리 파일(memory files)에서 이루어집니다. Context Hub는 모든 것을 버전 관리하고, 검토 가능하며, 향후 실행에서 즉시 사용할 수 있도록 유지함으로써 이를 실용적으로 만들어 줍니다.

이 방식이 효과적인 이유

• 대부분의 에이전트 품질 문제는 지침(instruction), 메모리(memory), 또는 정책(policy) 문제입니다.
• 컨텍스트 파일은 모델이나 하네스(harness)를 변경하는 것보다 반복(iterate) 속도가 빠릅니다.
• 버전 관리된 컨텍스트와 이슈 트래킹(issue tracking)의 결합은 반복 가능한 개선 루프(repeatable improvement loop)를 생성합니다.

Context Hub 기반의 메모리를 사용하는 Deep Agents 배포의 경우, 이슈 보드(issues board)를 동일한 컨텍스트 리포지토리(context repo)에 직접 연결하여 이슈와 컨텍스트 업데이트를 한 곳에서 연결된 상태로 유지할 수 있습니다.

Code: langchain-samples/deepagents-with-langsmith

# 저장소 클론 (Clone the repo)
git clone https://github.com/langchain-samples/deepagents-with-langsmith.git
cd deepagents-with-langsmith
...

개방형 메모리 표준 (An open memory standard)

에이전트 메모리 (Agent memory)는 몇 가지 공통적인 범주로 정립되기 시작했습니다. 과거의 상호작용으로부터 얻는 일화적 메모리 (episodic memory), 벡터 (vector) 또는 하이브리드 검색 (hybrid search)을 통해 검색되는 의미적 메모리 (semantic memory), 그리고 지침 (instructions), 기술 (skills), 정책 (policies) 형태의 절차적 메모리 (procedural memory)가 그것입니다. 아직 부족한 점은 에이전트, 프레임워크, 데이터 레이어 (data layers) 간에 해당 메모리를 저장, 읽기, 업데이트, 버전 관리 및 이동할 수 있는 공유된 방식입니다.

우리는 Elastic, MongoDB, Pinecone, Redis와 협력하여 에이전트 메모리를 위한 개방형 표준을 개발하고 있습니다. AGENTS.md 및 Skills 파일은 절차적 메모리를 위한 유용한 관례 (convention)가 되었지만, 이를 버전 관리하거나 환경별로 태깅(tagging)하거나 에이전트 간에 이식 가능하게(portable) 만드는 공유된 사양 (spec)은 아직 없습니다. 이미 프로덕션 데이터 및 검색 워크로드 (retrieval workloads)를 지원하는 파트너들과 함께, 우리는 메모리 시스템이 공유해야 할 인터페이스 (interfaces), 메타데이터 (metadata), 버전 관리 패턴 (versioning patterns), 그리고 검색 의미론 (retrieval semantics)을 정의하고 있습니다.

파트너들의 의견은 다음과 같습니다:

"프로덕션 환경에서 작동하는 에이전트를 구축하는 것은 결국 검색 (retrieval)의 문제입니다. 즉, 적절한 시점에 적절한 모델에 적절한 컨텍스트 (context)를 전달하는 것입니다. Elastic은 이미 대규모로 에이전트를 운영하는 팀들을 위해 벡터 (vector), 키워드 (keyword), 하이브리드 검색 (hybrid search) 기능을 제공하고 있으며, Context Hub는 이러한 역량을 더 많은 개발자에게 전달합니다. LangChain과의 협업은 AI 혁신을 발전시키기 위한 개방형 생태계 (open ecosystem) 접근 방식의 가치를 입증합니다."

• Ken Exner, Elastic 최고 제품 책임자 (Chief Product Officer)

차세대 에이전트 (Agents)는 결코 잠들지 않으며, 기계의 속도로 작업하고, 방대한 양의 대화 로그, 메모리 (Memory), 그리고 기업 데이터로부터 적절한 컨텍스트 (Context)를 필요로 합니다. 진짜 과제는 적절한 시점에 적절한 에이전트에게 적절한 컨텍스트를 전달하는 것입니다. 에이전트 컨텍스트는 라인 스피드 (Line speed)로 작동하는 동적 스키마 (Dynamic schema)와 정밀한 검색 (Retrieval)을 요구합니다. MongoDB는 바로 그 목적을 위해 구축되었습니다. 우리는 AI 에이전트의 미래를 가능하게 할 ContextHub 개방형 표준 (Open standard) 및 참조 아키텍처 (Reference architecture)를 개발하기 위해 LangChain과 협력하게 되어 기쁩니다.

• Pablo Stern-Plaza, MongoDB AI 및 신흥 제품 부문 최고 제품 책임자 (Chief Product Officer)

메모리와 컨텍스트는 지능형 모델을 지식 있는 에이전트로 탈바꿈시키는 핵심 요소입니다. 우리는 생태계를 위한 개방형 표준으로서 Context Hub를 형성하는 데 도움을 주기 위해 LangChain과 협력하게 되어 기쁩니다. Pinecone은 팀들이 프로덕션 (Production) 환경에서 이러한 에이전트를 정확하고 신뢰할 수 있게 만들 수 있도록 검색 레이어 (Retrieval layer)를 제공합니다.

• Ash Ashutosh, Pinecone CEO

메모리와 컨텍스트는 오늘날 에이전트를 구축하는 팀들에게 가장 중요한 미해결 과제입니다. LangChain의 Context Hub가 결집되는 것을 보는 것은 매우 흥분되는 일이며, 우리는 LangChain 팀과 함께 그 표준이 어떤 모습일지 형성하는 데 도움을 줄 수 있다는 점을 자랑스럽게 생각합니다. Redis는 팀들이 프로덕션 환경에서 더 빠르고, 더 신뢰할 수 있으며, 더 유용한 에이전트를 구축할 수 있도록 돕습니다. Context Hub는 그 미션을 향한 또 다른 진전이 될 것입니다.

• Rowan Trollope, Redis CEO

결론

에이전트는 모델 (Model), 하네스 (Harness), 그리고 컨텍스트 (Context)로 구성됩니다. 팀들이 더 많은 에이전트를 구축함에 따라, 해당 컨텍스트는 AGENTS.md 파일, 기술 (Skills), 정책 (Policies), 예시 (Examples), 그리고 생성된 연구 결과물 등에 점점 더 많이 존재하게 됩니다.

LangSmith Context Hub는 팀들이 이러한 파일들을 관리하고, 변경 사항에 대해 협업하며, 버전을 업데이트하고, 승인된 컨텍스트를 여러 에이전트에 걸쳐 사용할 수 있는 중앙 집중식 장소를 제공합니다.