FP8 및 FP8 KV를 적용한 GLM 5.2 - Terminal-Bench 2.1 결과: 79.8 (재실행하지 않은 타임아웃 1회 포함)

요약

H200 환경에서 FP8 및 FP8 KV를 적용한 GLM 5.2 모델의 Terminal-Bench 2.1 성능을 테스트한 결과입니다. 총 89개 작업 중 79.8%의 통과율을 기록하며 모델의 효율성을 검증했습니다.

핵심 포인트

• H200 GPU 기반 sglang 설정을 통한 FP8 테스트 수행
• Terminal-Bench 2.1 기준 79.8%의 통과율 달성
• 98.8%의 높은 캐시 히트율 기록
• FP8 및 FP8 KV 적용을 통한 모델 최적화 성능 확인