Von: 오픈 소스 395M 'System One' 모델
요약
Von: TypeSafe에서 JEV를 대체할 오픈 소스 'System One' 모델이 공개되었습니다. 이 모델은 CPU만으로 구동 가능하며, 1~2GB 메모리 환경에서도 작동합니다. 모든 벤치마크에서 기존의 JEV보다 우수한 성능을 보여줍니다.
핵심 포인트
- 오픈 소스 'System One' 모델이 공개되었습니다.
- CPU만으로 구동 가능하며, 낮은 사양에서도 작동합니다.
- 기존 JEV 대비 모든 벤치마크에서 성능이 우수합니다.
가족 여행 중이라 하드웨어 사양이 제한적이라 시간이 좀 걸렸지만, 드디어 가져왔습니다! Von: TypeSafe의 JEV를 대체하는 오픈 소스 'System One'입니다. https://github.com/wfzyx/von https://huggingface.co/wfzyx/von-1.0 CPU만으로 완전히 구동되며 12GB 메모리로 작동합니다 (아직 최적화에 많은 시간을 쏟지는 않았습니다). 응답 속도는 25300ms이며, 모든 벤치마크에서 JEV를 능가합니다. 즐겁게 사용하세요! P.S. AI 연구소 근무 제안은 환영합니다. 기회가 있다면 주저 말고 연락 주세요. P.P.S. GPU가 있으면 더 빠르겠지만, GPU는 필수는 아닙니다. submitted by /u/wFXx [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0