
BetterBench 소개 - 더 정확한 PP 및 TPS 측정
요약
기존 벤치마크의 무작위 데이터 사용 문제를 해결하기 위해 개발된 BetterBench를 소개합니다. 콘텐츠 유형에 따른 성능 편차를 줄이고 일관성을 1% 이내로 유지하며 정확한 PP 및 TPS 측정을 지원합니다.
핵심 포인트
- 콘텐츠 유형에 따른 성능 편차(5% 이상) 문제 해결
- 콘텐츠 일관성을 1% 이내로 유지하도록 설계
- MTP(Multi-Token Prediction) 환경에 최적화된 측정 방식
- 다양한 콘텐츠 유형에 걸친 정확한 PP 및 TPS 측정 가능
기존의 벤치마크들이 무작위 데이터를 사용하고 있었고, MTP (Multi-Token Prediction) 콘텐츠 유형에 따라 성능 차이가 매우 크게 나타날 수 있기 때문에 이를 위해 제작했습니다. 콘텐츠 유형에 따라 5% 이상의 차이가 발생할 수 있습니다. BetterBench는 콘텐츠 일관성을 1% 이내로 유지하도록 설계되었으며, 다양한 콘텐츠 유형에 걸쳐 측정합니다. 예를 들어, 듀얼 R9700에서 Qwen3.6 27B FP8을 실행한 결과는 다음과 같습니다: https://preview.redd.it/atnhjhq20ohh1.png?width=1168&format=png&auto=webp&s=9353f440185373ab02e6cf75db65789f577a0d55 리포지토리는 여기서 찾을 수 있습니다: https://github.com/GGZ14/BetterBench /u/whodoneit1 에 의해 제출됨 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기