AI 에이전트용 관측 가능성 및 개발 도구 플랫폼 (AgentOps)

AI 에이전트를 위한 관측 가능성(Observability) 및 DevTool 플랫폼

agentops_demo.mp4

AgentOps는 개발자가 AI 에이전트를 구축, 평가 및 모니터링할 수 있도록 돕습니다. 프로토타입부터 실제 서비스까지 지원합니다.

AgentOps 앱은 MIT 라이선스 하에 오픈 소스로 제공됩니다. 저희 앱 디렉토리에서 코드를 탐색해 보세요.

📊 재현 분석(Replay Analytics) 및 디버깅 |
단계별 에이전트 실행 그래프 |
💸 LLM 비용 관리 |
LLM 파운데이션 모델 공급업체별 지출 추적 |
🤝 프레임워크 통합 |
CrewAI, AG2 (AutoGen), Agno, LangGraph 등과의 네이티브 통합 |
⚒️ 자체 호스팅(Self-Host) |
AgentOps를 자체 클라우드에서 실행하고 싶으신가요? 지원합니다.

pip install agentops

AgentOps 클라이언트를 초기화하고 모든 LLM 호출에 대한 분석 데이터를 자동으로 얻을 수 있습니다.

import agentops
# 프로그램 시작 부분 (예: main.py, __init__.py)
agentops.init( < 여기에 API 키를 삽입하세요 >)
...

모든 세션은 AgentOps 대시보드에서 확인할 수 있습니다.

자신의 컴퓨터에서 전체 AgentOps 앱(대시보드 + API 백엔드)을 실행하고 싶으신가요? app/README.md의 설정 가이드를 따르세요.

:

최소한의 코드로 에이전트, 도구 및 함수에 강력한 관측 가능성을 추가하세요: 한 줄씩입니다.

문서(documentation)를 참조하세요.

# 세션 스팬 생성 (다른 모든 스팬의 루트)
from agentops.sdk.decorators import session
@session
...

# 에이전트 작업을 추적하기 위한 에이전트 스팬 생성
from agentops.sdk.decorators import agent
@agent
...

# 특정 작업을 추적하기 위한 작업/태스크 스팬 생성
from agentops.sdk.decorators import operation, task
@operation # 또는 @task
...

# 다중 작업 워크플로우를 추적하기 위한 워크플로우 스팬 생성
from agentops.sdk.decorators import workflow
@workflow
...

# 적절한 스팬 계층 구조를 위해 데코레이터 중첩
from agentops.sdk.decorators import session, agent, operation
@agent
...

모든 데코레이터는 다음을 지원합니다:

• 입력/출력 기록(Input/Output Recording)
• 예외 처리(Exception Handling)
• Async/await 함수
• 제너레이터 함수(Generator functions)
• 사용자 정의 속성 및 이름(Custom attributes and names)

도구(tools), 핸드오프(handoffs), 가드레일(guardrails)을 사용하여 멀티 에이전트 시스템을 구축하세요. AgentOps는 Python과 TypeScript용 OpenAI Agents SDK와 네이티브하게 통합됩니다.

pip install openai-agents

npm install agentops @openai/agents

단 2줄의 코드로 관측 가능성을 갖춘 Crew 에이전트를 구축하세요. 환경 변수에 AGENTOPS_API_KEY를 설정하기만 하면, 여러분의 크루(crews)가 AgentOps 대시보드에서 자동으로 모니터링됩니다.

pip install 'crewai[agentops]'

단 두 줄의 코드로 AG2(이전 AutoGen) 에이전트에 완전한 관측 가능성과 모니터링을 추가하세요. 환경 변수에 AGENTOPS_API_KEY를 설정하고 agentops.init()을 호출하면 됩니다.

CAMEL 에이전트를 완전한 관측 가능성으로 추적하고 분석하세요. 환경 변수에 AGENTOPS_API_KEY를 설정하고 AgentOps를 초기화하여 시작하세요.

• Camel AI - 고급 에이전트 통신 프레임워크
• AgentOps 통합 예제
• 공식 Camel AI 문서

설치

pip install "camel-ai[all]==0.2.11"
pip install agentops

import os
import agentops
from camel.agents import ChatAgent
...

멀티 에이전트 시나리오를 포함한 더 많은 예제를 보려면 Camel 통합 가이드를 확인하세요.

AgentOps는 Langchain을 사용하여 구축된 애플리케이션과 원활하게 작동합니다. 핸들러(handler)를 사용하려면 Langchain을 선택적 종속성으로 설치하세요:

설치

pip install agentops[langchain]

핸들러를 사용하려면 가져와서 설정하세요:

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents import initialize_agent, AgentType
...

비동기 핸들러(Async handlers)를 포함한 더 자세한 내용은 Langchain Examples Notebook을 확인하세요.

Cohere에 대한 첫 번째 등급 지원(>=5.4.0). 이는 살아있는 통합이므로 추가 기능이 필요하면 Discord에서 메시지를 보내주세요!

설치

pip install cohere

import cohere
import agentops
# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
...

import cohere
import agentops
# 프로그램 코드 시작 부분 (예: main.py, __init__.py)
...

Anthropic Python SDK를 사용하여 구축된 에이전트를 추적합니다 (>=0.32.0).

설치

pip install anthropic

import anthropic
import agentops
# 프로그램 코드 시작 지점 (예: main.py, __init__.py)
...

스트리밍(Streaming)

import anthropic
import agentops
# 프로그램 코드 시작 지점 (예: main.py, __init__.py)
...

비동기(Async)

import asyncio
from anthropic import AsyncAnthropic
client = AsyncAnthropic(
...

Mistral Python SDK를 사용하여 구축된 에이전트를 추적합니다 (>=0.32.0).

설치

pip install mistralai

동기(Sync)

from mistralai import Mistral
import agentops
# 프로그램 코드 시작 지점 (예: main.py, __init__.py)
...

스트리밍(Streaming)

from mistralai import Mistral
import agentops
# 프로그램 코드 시작 지점 (예: main.py, __init__.py)
...

비동기(Async)

import asyncio
from mistralai import Mistral
client = Mistral(
...

비동기 스트리밍(Async Streaming)

import asyncio
from mistralai import Mistral
client = Mistral(
...

CamelAI Python SDK를 사용하여 구축된 에이전트를 추적합니다 (>=0.32.0).

설치

pip install camel-ai[all]
pip install agentops

# 의존성 가져오기
import agentops
import os
...

AgentOps는 LiteLLM(>=1.3.1)을 지원하여 동일한 입/출력 형식으로 100개 이상의 LLM을 호출할 수 있도록 합니다.

설치

pip install litellm

# LiteLLM을 이렇게 사용하지 마세요
# from litellm import completion
# ...
...

AgentOps는 LLM을 사용하여 컨텍스트 증강 생성 AI 애플리케이션을 구축하는 프레임워크인 LlamaIndex와 함께 원활하게 작동합니다.

설치

pip install llama-index-instrumentation-agentops

핸들러를 사용하려면 가져와 설정하세요.

from llama_index.core import set_global_handler
# 참고: AgentOps 문서에 설명된 대로 AgentOps 환경 변수(예: 'AGENTOPS_API_KEY')를 자유롭게 설정하거나, 해당 키워드 인수를 전달하세요.
...

자세한 내용은 LlamaIndex 문서를 확인하세요.

AgentOps는 Llama Stack Python Client(>=0.0.53)를 지원하여 에이전트 기반 애플리케이션을 모니터링할 수 있게 합니다.

SwarmZero 에이전트를 완벽한 관측 가능성으로 추적하고 분석하세요. 환경 변수에 AGENTOPS_API_KEY를 설정하고 AgentOps를 초기화하여 시작하세요.

• SwarmZero - 고급 다중 에이전트 프레임워크
• AgentOps 통합 예제
• SwarmZero AI 통합 예제
• SwarmZero AI - AgentOps 문서
• 공식 SwarmZero Python SDK

설치 (Installation)

pip install swarmzero
pip install agentops

from dotenv import load_dotenv
load_dotenv()
import agentops
...

올바른 도구가 없다면 AI 에이전트는 느리고, 비용이 많이 들며, 신뢰할 수 없습니다. 우리의 임무는 여러분의 에이전트를 프로토타입에서 프로덕션으로 가져오는 것입니다. AgentOps가 뛰어난 이유를 알려드립니다:

포괄적인 관측 가능성 (Comprehensive Observability): AI 에이전트의 성능, 사용자 상호 작용 및 API 사용량을 추적하세요.실시간 모니터링 (Real-Time Monitoring): 세션 재생(session replays), 메트릭, 라이브 모니터링 도구를 통해 즉각적인 통찰력을 얻으세요.비용 제어 (Cost Control): LLM 및 API 호출에 대한 지출을 모니터링하고 관리하세요.실패 감지 (Failure Detection): 에이전트 실패 및 다중 에이전트 상호 작용 문제를 신속하게 식별하고 대응하세요.도구 사용 통계 (Tool Usage Statistics): 상세한 분석을 통해 에이전트가 외부 도구를 어떻게 활용하는지 이해하세요.세션 전체 메트릭 (Session-Wide Metrics): 포괄적인 통계를 통해 에이전트 세션에 대한 총체적인 시야를 확보하세요.

AgentOps는 에이전트 관측 가능성, 테스트 및 모니터링을 쉽게 설계되었습니다.

커뮤니티에서의 성장을 확인해 보세요: