가장 작은 Jev-like 모델
요약
TinyDecide는 10M 파라미터의 Jev-like 모드를 구현하여, 단지 약 6MB라는 매우 작은 크기로 모델을 배포할 수 있게 합니다. 이 모델은 Decision Index 리더보드 상위권 모델들보다 작으면서도 뛰어난 성능을 보여줍니다.
핵심 포인트
- 10M 파라미터의 Jev-like 모드를 지원합니다.
- 모델 크기가 약 6MB로 매우 작습니다.
- 브라우저, Node.js, Python, Rust 등 다양한 환경에서 실행 가능합니다.
- ESP32와 같은 저전력 장치에서도 구동이 가능합니다.
TinyDecide는 10M 파라미터의 Jev-like 모드로, 단지 약 6MB 크기에 들어갑니다. Decision Index 리더보드에 있는 모든 모델보다 작으면서도 그 크기 이상으로 뛰어난 성능을 보여줍니다. 브라우저, Node.js, Python, Rust 등 거의 모든 곳에서 실행할 수 있으며, 심지어 ESP32에서도 가능합니다. https://huggingface.co/TheREZOR/TinyDecide submitted by /u/TheRealREZOR [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기