Show HN: LLM API (OpenAI, Claude, 로컬/자체 호스팅) 벤치마크 도구

원문 발행 2025. 06. 30. 00:33원문 언어 영어AI 한국어 번역HN Code Generation 원문 보기

요약

OpenAI, Claude 및 로컬 호스팅 모델을 포함한 다양한 LLM API의 성능을 비교할 수 있는 벤치마크 도구입니다. 첫 번째 토큰 지연 시간, 출력 속도, 성공률 등 핵심 지표를 측정하고 통계를 제공합니다.

모델 (Model)	프롬프트 (Prompt)	라운드 (Round)	첫 번째 토큰 (First Token, ms)	출력 속도 (Output Speed, t/s)	결과 (Result)	오류 (Error)	상태 (Status)

모델 (Model)	평균 첫 번째 토큰 (Avg First Token, ms)	평균 출력 속도 (Avg Output Speed, t/s)	성공률 (Success Rate)

포괄적인 테스트와 분석을 통해 여러 AI 모델 API 제공업체 및 모델 간의 성능을 비교하세요.

모델 (Model)	프롬프트 (Prompt)	라운드 (Round)	첫 번째 토큰 (First Token, ms)	출력 속도 (Output Speed, t/s)	결과 (Result)	오류 (Error)	상태 (Status)

모델 (Model)	평균 첫 번째 토큰 (Avg First Token, ms)	평균 출력 속도 (Avg Output Speed, t/s)	성공률 (Success Rate)

AI 자동 생성 콘텐츠