[릴리스] Supra-Router-51M - 아주 작은 프롬프트 라우팅 (Prompt Routing) 모델/오케스트레이터
요약
SupraLabs에서 51M 파라미터 규모의 초소형 프롬프트 라우팅 모델인 Supra-Router-51M을 출시했습니다. 이 모델은 사용자 요청을 적절한 크기의 LLM으로 전달하여 저지연 환경을 구현하며, 학습에 사용된 데이터셋도 함께 공개되었습니다.
핵심 포인트
- 51M 파라미터의 초소형 모델로 매우 낮은 지연 시간 제공
- 프롬프트의 난이도에 따라 적절한 모델로 요청을 라우팅
- 모델과 함께 학습용 데이터셋도 오픈소스로 공개
안녕하세요 r/LocalLLaMA 여러분!
SupraLabs가 새로운 모델인 Supra-Router-51M과 함께 돌아왔습니다.
기본적으로 이 모델은 사용자 프롬프트/요청에 따라 요청을 더 작거나 큰 모델로 라우팅 (Routing) 하기 위해 만들어졌습니다. 이 모델은 파라미터 (Parameters) 수가 51M에 불과하여 저지연 (Low-latency) 환경에서 사용할 수 있다는 점이 매우 멋집니다.
다음은 몇 가지 샘플입니다:
Samples
HF Hub 모델 링크: https://huggingface.co/SupraLabs/Supra-Router-51M
이 모델과 함께 저희가 모델을 학습시킨 데이터셋도 함께 출시했습니다!: https://huggingface.co/datasets/SupraLabs/Prompt-Routing-Dataset
즐겁게 사용해 보세요! 언제든 피드백을 주세요! ❤️ 🤗
submitted by /u/LH-Tech_AI
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0