WHICLLM: 하드웨어를 스캔하여 HuggingFace에서 시스템에 가장 적합한 로컬 모델을 필터링합니다

요약

WHICLLM은 사용자의 하드웨어 사양을 스캔하여 HuggingFace의 로컬 모델 중 최적의 모델을 추천하는 도구입니다. 단순 VRAM 확인을 넘어 실증적 벤치마크 순위와 GPU 시뮬레이션을 통해 모델 호환성을 정확히 판단합니다.

핵심 포인트

• 하드웨어 스캔을 통한 최적의 로컬 모델 필터링
• VRAM 외에 실증적 벤치마크 기반 순위 제공
• 다양한 GPU 실행 시나리오 시뮬레이션 지원
• 시의성 점수 메커니즘을 통한 순위 정확도 보장