ibm-granite/granite-switch-4.1 30B/8B
요약
ibm-granite/granite-switch-4.1은 기본 모델과 여러 어댑터, 인코더를 결합한 모듈형 LLM입니다. 단일 엔드포인트에서 자연어 응답, 의사 결정, 음성-텍스트 변환 등 다양한 기능을 제공합니다. 30B 및 8B 파라미터 버전이 출시되었으며, Apache 2.0 라이선스를 따릅니다.
핵심 포인트
- 모듈형 LLM 구조로 자연어/의사결정/음성을 통합 지원
- 기본 모델(Base Model)과 어댑터를 조합하여 기능 확장 가능
- 30B 및 8B 파라미터 버전이 제공되며, 다양한 크기로 활용 가능
Granite Switch 4.1 30B 📝 출시 블로그 읽기: Granite Switch 4.1: 하나의 엔드포인트 모델에서 채팅, 의사 결정 및 음성까지
요약:
Granite Switch 4.1 30B는 기본 모델(base model), 여러 어댑터(adapters) 및 인코더를 결합하여 구성하는 모듈형 LLM입니다. 따라서 단일 호스팅 엔드포인트에서 자연어 응답, 일반적/특화된 의사 결정, 음성-텍스트 변환까지 이동할 수 있습니다. 어댑터는 채팅 템플릿 내의 제어 토큰(control tokens)을 통해 온디맨드로 활성화됩니다. 모델 구성 및 어댑터 설정에 대한 자세한 내용은 BUILD.md를 참조하십시오.
기본 모델 (Base Model):
ibm-granite/granite-4.1-30b (30B 파라미터, 128K 컨텍스트)
어댑터 (Adapters):
2개 — decision (aLoRA, 일반 목적 의사 결정) 및 guardian-core (aLoRA, granitelib-guardian-r1.0에서 가져옴)
오디오 (Audio): ibm-granite/granite-speech-5.0-470m-turboctc를 통한 내장 음성-텍스트 변환 (470M 파라미터, 영어)
라이선스: Apache 2.0
릴리스 날짜: 2026년 10월 14일
백엔드 (Backends): HuggingFace Transformers, vLLM
자동 구성된 모델:
granite-switch
Granite Switch는 또한 granite-switch-4.1-8b (동일한 채팅 + 의사 결정 + Guardian + 음성 구성, 8B 기본 모델) 및 완전한 Granite Libraries 번들(오디오 없음)을 포함하는 granite-switch-4.1-30b-preview, -8b-preview, 그리고 -3b-preview에서도 사용할 수 있습니다.
https://huggingface.co/ibm-granite/granite-switch-4.1-30b
https://huggingface.co/ibm-granite/granite-switch-4.1-8b
https://preview.redd.it/t9gf1xv60pvh1.png?width=868&format=png&auto=webp&s=0db599d4a29b463b3f3515f7ce09bf352d0e9485 (블로그의 비디오)
/u/jacek2023 제출
[링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기