이제 AI Gateway에서 팀이 게이트웨이를 통해 보내는 모든 요청을 최신순으로 확인할 수 있는 전용 목록을 제공합니다. 여기에는 비용, 토큰 수(token counts), 소요 시간(duration)과 함께 해당 요청을 처리한 모델(model), 제공업체(provider), 지역(region) 정보가 포함됩니다. 각 요청을 열어 어떻게 라우팅(routing)되었는지 확인할 수 있습니다. 이 기능은 팀 범위(team scope) 및 프로젝트별로 사용할 수 있습니다. 로그 페이지

제공업체(provider), 모델(model), 모달리티(modality), 자격 증명(credentials) 또는 상태(status)별로 필터링하거나, 모델, 제공업체 또는 요청 ID(request ID)로 검색하여 특정 요청으로 바로 이동할 수 있습니다. 모든 필터는 URL에 저장되므로, 주소를 복사하여 필터링된 뷰를 공유할 수 있습니다. 테이블 상단의 차트는 선택한 범위 내의 요청 수(request counts)를 보여주며, 차트를 드래그하여 더 좁은 시간 범위로 확대(zoom)할 수 있습니다.

또한 적용된 필터를 포함하여 현재 뷰를 CSV 또는 JSON 형식으로 내보낼 수 있습니다.

행을 클릭하면 목록 옆에 상세 정보가 열립니다: 총 비용, 입력(input), 출력(output), 추론(reasoning), 캐시 읽기 및 쓰기(cache reads and writes)에 대한 토큰 상세 내역, 소요 시간(duration), 첫 번째 토큰까지의 시간(time to first token), 그리고 제로 데이터 보존(Zero Data Retention) 및 지역 제한(region restrictions) 적용 여부를 확인할 수 있습니다.

폴백 경로(fallback path)에는 해당 요청에 대한 모든 제공업체 시도가 순서대로 나열됩니다. 각 시도에는 모델, 제공업체, 상태 코드(status code), 자격 증명(credentials) 및 소요 시간이 표시되며, 실패한 시도에는 제공업체 타임아웃(provider timeout) 또는 라우팅 예산 소진(exhausted routing budget)과 같은 이유가 포함됩니다.

AI Gateway 로그에 대해 더 자세히 알아보려면 문서(documentation)를 읽어보세요

더 읽어보기

필터링 및 검색

요청 상세 분석