Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
이 도구는 AI API의 지역별 지연 시간과 가동 시간을 측정하고, 그 결과를 오픈 데이터로 공개합니다. TTFB(첫 바이트까지)와 TTFT(첫 토큰까지) 등 두 가지 프로브 유형을 통해 다양한 제공업체의 성능을 비교할 수 있습니다. JSON API 및 Python 코드를 통해 데이터를 쉽게 접근하고 활용할 수 있도록 설계되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub Claude Ecosystem의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기AI API의 지역별 지연 시간과 가동 시간을 측정하고, 그 결과를 오픈 데이터로 공개합니다.
🌐 실시간 순위 · JSON API · MCP 엔드포인트
llms.txt 인덱스를 통해 접근할 수 있습니다.결과 읽기: 에지 TTFB는 모델 생성 속도가 아닌 네트워크/API 응답성을 측정합니다. 추론 TTFT와는 별도로 비교해야 하며, 결과는 지역, 프로브 유형 및 시간 창에 따라 달라집니다.
설치 없이 공개 데이터를 사용해 보세요:
curl https://llmlatency.dev/api/rankings.json
또는 Python 3.12 이상으로 로컬 에지 프로브를 실행하세요:
git clone https://github.com/mazamaka/llm-latency-tracker.git
cd llm-latency-tracker
REGION=local python3 run.py
...
게시된 API를 사용하여 로컬 stdio MCP 서버를 실행하려면 (stdlib 전용, 키 불필요):
python3 mcp_server.py
도구(Tools): get_ai_api_latency (지역별 제공업체 리더보드), get_provider_latency (지역 전반의 단일 제공업체), get_model_deprecations (모델 종료 일정), get_coding_agent_health (Claude Code / Codex 속도 및 정확도 편차). 모두 읽기 전용입니다.
추론 프로브, API 접근 및 사이트 생성 → · 배포 →
제공업체를 추가하거나 새로운 프로브 지역을 가져오거나 측정 코드를 개선하세요. 설정 및 검사 사항은 **CONTRIBUTING.md**를 참조하세요.
Python · SQLite · JSON API · MCP · Cloudflare Pages
코드: MIT · 데이터: CC-BY-4.0, llmlatency.dev에 출처를 밝힐 것.
<details> <summary><b id="latest_daily_snapshot">📈 최신 일일 스냅샷</b></summary> <!-- DATASET:BEGIN -->4개 지역에서 46개의 AI 추론 제공업체에 걸쳐 측정된 지연 시간. 방법: 분산 엣지(DNS→TCP→TLS→TTFB) + 추론(TTFT) 프로브, 지난 24시간 기준. 라이선스: CC-BY-4.0.
| 지역 | 가장 빠른 제공업체 (p50) | p50 | p95 | 가동 시간 (Uptime) |
|---|---|---|---|---|
| 아시아 (도쿄) | fireworks | 20 ms | 67 ms | 100% |
| ... |
data/rankings/2026-10-18.json (최신)10.5281/zenodo.23388429 — 일일 집계, CC-BY-4.0swh:1:snp:2778cbabd72a70a629ee35fbd5ac536d1ccb7a9a스냅샷 생성일: 2026-10-18T07:23:16Z — 이 표는 매일 재생성됩니다.
<!-- DATASET:END -->