llm-use/llm-use
요약
에이전트 워크플로우를 위한 LLM 오케스트레이션 툴킷입니다. 플래너, 워커, 합성 구조를 갖추고 있으며, 다양한 LLM 라우팅과 캐싱, MCP 서버 통합 기능을 제공합니다.
핵심 포인트
- 플래너-워커-합성 구조의 에이전트 워크플로우 지원
- OpenAI, Anthropic, Ollama 등 다양한 모델 지원
- 학습된 폴백 기능을 포함한 선택형 LLM 라우터 제공
- 캐싱, 스크래핑, MCP 서버 통합 및 TUI 채팅 UI 포함
Repository: llm-use/llm-use
Language: Python
Stars: 41
Forks: 3
Topics: ab-testing, ai-orchestration, anthropic, api-gateway, artificial-intelligence, claude, cost-optimization, fastapi, gpt-5, groq, langchain, llm, llm-router, llmops, monitoring, openai, python, streaming
Description:
에이전트 워크플로우 (agent workflows)를 위한 LLM 오케스트레이션 (orchestration) 툴킷: 플래너 (planner) + 워커 (workers) + 합성 (synthesis), 선택 가능한 라우터 (router) (LLM + 학습된 폴백 (learned fallback)), OpenAI/Anthropic/Ollama/llama.cpp 지원, 캐싱 (caching)을 포함한 실제 스크래핑 (scraping), MCP 서버 통합, 그리고 TUI 채팅 UI를 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub AI Tools의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기