Show HN: LLM API (OpenAI, Claude, 로컬/자체 호스팅) 벤치마크 도구
요약
OpenAI, Claude 및 로컬 호스팅 모델을 포함한 다양한 LLM API의 성능을 비교할 수 있는 벤치마크 도구입니다. 첫 번째 토큰 지연 시간, 출력 속도, 성공률 등 핵심 지표를 측정하고 통계를 제공합니다.
핵심 포인트
- OpenAI, Claude 및 자체 호스팅 모델 간 성능 비교 가능
- 첫 번째 토큰 지연 시간(ms) 및 출력 속도(t/s) 측정
- 모델별 성공률 및 오류 발생 여부 통계 제공
설정 (Configuration)
결과 (Results)
| 모델 (Model) | 프롬프트 (Prompt) | 라운드 (Round) | 첫 번째 토큰 (First Token, ms) | 출력 속도 (Output Speed, t/s) | 결과 (Result) | 오류 (Error) | 상태 (Status) |
|---|
통계 (Statistics)
| 모델 (Model) | 평균 첫 번째 토큰 (Avg First Token, ms) | 평균 출력 속도 (Avg Output Speed, t/s) | 성공률 (Success Rate) |
|---|
포괄적인 테스트와 분석을 통해 여러 AI 모델 API 제공업체 및 모델 간의 성능을 비교하세요.
| 모델 (Model) | 프롬프트 (Prompt) | 라운드 (Round) | 첫 번째 토큰 (First Token, ms) | 출력 속도 (Output Speed, t/s) | 결과 (Result) | 오류 (Error) | 상태 (Status) |
|---|
| 모델 (Model) | 평균 첫 번째 토큰 (Avg First Token, ms) | 평균 출력 속도 (Avg Output Speed, t/s) | 성공률 (Success Rate) |
|---|
AI 자동 생성 콘텐츠
본 콘텐츠는 HN Code Generation의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0