Vercel Drains를 통한 AI Gateway 트레이스(traces) 내보내기

요약

Vercel AI Gateway가 OpenTelemetry 트레이스를 외부 엔드포인트로 내보낼 수 있는 Vercel Drains 기능을 출시했습니다. 이를 통해 모델 라우팅, 토큰 사용량, 응답 시간 등 요청 라이프사이클 전반에 대한 상세한 관측이 가능합니다.

핵심 포인트

• OpenTelemetry 호환 엔드포인트로 트레이스 전송 지원
• Braintrust, Sentry 등 주요 도구와 네이티브 통합 제공
• 모델 라우팅, 토큰 비용, 응답 시간 등 상세 메트릭 포함
• 샘플링 제어를 통한 트래픽 양 조절 가능
• 트레이스 1,000개당 $0.05 및 데이터 전송량 기반 과금