새로운 모델: GigaChat3.5-432B-A28B (day-0 GGUF 지원!)
요약
Sberbank에서 새로운 GigaChat3.5-432B-A28B 모델을 출시했습니다. 베이스 버전과 함께 GGUF 포맷 버전도 제공되어 llama.cpp를 통한 활용이 가능할 전망입니다.
핵심 포인트
- Sberbank의 새로운 GigaChat3.5-432B-A28B 모델 공개
- 베이스 버전 및 GGUF 양자화 버전 동시 제공
- llama.cpp의 차기 PR을 통해 GGUF 지원 예정
Sberbank의 새로운 모델:
https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B
베이스 버전 (Base version) 또한 이용 가능합니다: https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B-base
가장 중요한 점은 GGUF 버전도 제작되었다는 것입니다: https://huggingface.co/ai-sage/GigaChat3.5-432B-A28B-GGUF
현재 아직 마스터 브랜치 (master branch)에 포함되지는 않았지만, 다음 PR (Pull Request)에서 빌드할 수 있습니다: https://github.com/ggml-org/llama.cpp/pull/25342
/u/unbannedfornothing 님이 제출함
[link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0