사용자 PC에서 실행 가능한 최고의 AI 모델을 보여주는 오픈 소스 리더보드를 만들었습니다
요약
사용자 PC의 RAM 및 GPU 사양을 입력하면, 해당 환경에서 실행 가능한 최고의 오픈 소스 AI 모델들을 순위와 함께 보여주는 whatmodel.sh를 공개했습니다. 이 도구는 로컬 구동 모델과 API 기반 모델의 성능을 비교할 수 있게 하며, 32GB Mac에서도 GPT-5급 성능의 모델을 무료로 돌릴 수 있음을 입증했습니다.
핵심 포인트
- whatmodel.sh를 통해 로컬 실행 가능한 AI 모델 리더보드를 제공합니다.
- 사용자의 PC 사양에 맞춰 최적의 오픈 소스 모델을 추천받을 수 있습니다.
- 32GB Mac에서도 고성능 LLM(예: Qwen3.8 27B) 구동이 가능함을 보여줍니다.
- 모든 데이터, 스코어링 코드 및 벤치스크립트는 오픈 소스로 공개되었습니다.
여러분, 제가 whatmodel.sh를 만들었습니다. 사용하려면 RAM과 GPU 사양을 입력하세요. 해당 사양으로 로컬에서 어떤 모델들을 실행할 수 있는지 순위와 함께 그리고 실행 명령어를 확인해 보세요. 동일한 점수를 받은 API 모델들과 비교할 수 있습니다. 이것을 만드는 과정에서 32GB Mac이 GPT-5와 비슷한 성능을 내는 모델(예: Qwen3.8 27B, 4비트)을 완전히 로컬에서 무료로 실행할 수 있다는 것을 깨달았습니다. 각 모델은 19,731개의 공개된 벤치마크 결과에 걸쳐 산출된 하나의 점수를 받으며, 모든 결과는 출처와 연결됩니다. 방법론은 whatmodel.sh/method에 있으며, 데이터, 스코어링 코드 및 벤치스크립트는 오픈 소스입니다: github.com/jakemanger/whatmodel 터미널에서도 작동합니다: curl whatmodel.sh 기여하고 싶다면, 실제 토큰/초(tok/s)를 수집하는 벤치스크립트가 있으며, 새로운 모델과 벤치마크 점수 및 그 출처를 github.com에 제출할 수도 있습니다. /u/jakecoolguy에 의해 제출됨 [링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기