whichllm: 하드웨어를 자동으로 감지하여 시스템에서 실제로 실행 가능한 HuggingFace의 최적 로컬 LLM 순위를 매깁니다.

요약

whichllm은 사용자의 하드웨어 사양을 자동으로 감지하여 실행 가능한 최적의 HuggingFace 로컬 LLM 순위를 제공하는 도구입니다. 단순 VRAM 용량을 넘어 벤치마크 기반의 증거 중심 순위를 산정하며, GPU 시뮬레이션 기능도 지원합니다.

핵심 포인트

• 하드웨어 자동 감지를 통한 최적의 로컬 LLM 추천
• 벤치마크 기반의 증거 중심 순위 산정 방식
• 특정 GPU 모델 시뮬레이션 기능 지원
• 스크립팅을 위한 JSON 출력 옵션 제공