요약

RedHatAI의 Qwen3.5-122B-A10B-NVFP4 모델을 RTX Pro 6000 환경에서 구동하여 초당 100 토큰의 속도를 달성했습니다.

핵심 포인트

• Qwen3.5-122B-A10B-NVFP4 모델 활용
• RTX Pro 6000 GPU 환경에서 테스트
• 초당 100 토큰(100 tok/sec)의 높은 추론 성능 달성