Intel B65 시스템에서 Flash-Next 및 기타 모델의 긴 컨텍스트 스윕 테스트 결과

요약

본 기사는 Intel B65 시스템 환경에서 Flash-Next 및 Qwen3.8 등 인기 모델들을 대상으로 긴 컨텍스트 스윕 테스트 결과를 공유합니다. 높은 메모리 대역폭과 다양한 요청 수에 따른 전체 출력 처리량(tokens/sec)을 측정하여, 실제 환경에서의 AI 성능을 분석했습니다.

핵심 포인트

• B65 시스템에서 Flash-Next 및 Qwen3.8 모델의 컨텍스트 스윕 테스트 결과를 제공합니다.
• 테스트는 높은 메모리 대역폭과 다양한 동시 요청 수(1~200K)를 포함하여 진행되었습니다.
• MTP 활성화 여부와 비활성화 여부에 따른 성능 차이를 비교 분석했습니다.
• 컨텍스트 길이 증가에 따라 처리량이 어떻게 변화하는지 구체적인 데이터를 제시합니다.