수많은 로컬 LLM이 있는데, 내 컴퓨터가 어떤 걸 돌릴 수 있을지 궁금하시다면, 그 답을 알려주는 멋진 사이트가 있어요: Can I Run

요약

로컬 LLM(대규모 언어 모델)의 종류가 너무 많아 어떤 것을 자신의 컴퓨터에서 실행할 수 있을지 고민하는 사용자를 위해 'Can I Run AI'라는 유용한 웹사이트를 소개합니다. 이 사이트는 사용자의 시스템 사양을 기반으로, 특정 로컬 LLM이 해당 하드웨어에서 어느 정도의 성능(토큰/초)으로 작동할 수 있는지 구체적인 정보를 제공하여 모델 선택에 도움을 줍니다.

핵심 포인트

• 로컬 LLM 실행 가능 여부 확인 사이트: Can I Run AI를 활용할 수 있습니다.
• 시스템 사양 기반 성능 예측: 사용자의 컴퓨터 환경에 맞춰 예상 성능(토큰/초)을 보여줍니다.
• 모델 선택의 용이성 증대: 복잡한 로컬 LLM 생태계에서 적합한 모델을 찾는 데 도움을 줍니다.