google/gemma-4-12B · Hugging Face

Gemma는 Google DeepMind가 구축한 오픈 모델 제품군입니다. Gemma 4 모델은 멀티모달 (multimodal) 모델로, 텍스트와 이미지 입력을 처리하며 (E2B, E4B, 12B 모델에서는 오디오 지원), 텍스트 출력을 생성합니다. 이번 출시에는 사전 학습된 (pre-trained) 버전과 지시어 튜닝된 (instruction-tuned) 버전 모두를 포함하는 오픈 웨이트 (open-weights) 모델이 포함되어 있습니다. Gemma 4는 최대 256K 토큰의 컨텍스트 윈도우 (context window)를 특징으로 하며, 140개 이상의 언어에 대해 다국어 지원을 유지합니다. Dense 및 전문가 혼합 (Mixture-of-Experts, MoE) 아키텍처를 모두 특징으로 하는 Gemma 4는 텍스트 생성, 코딩, 추론 (reasoning)과 같은 작업에 적합합니다. 모델은 E2B, E4B, 12B, 26B A4B, 31B의 다섯 가지 뚜렷한 크기로 제공됩니다. 이들의 다양한 크기 덕분에 고사양 스마트폰부터 노트북, 서버에 이르는 환경에 배포가 가능하여, 최첨단 AI에 대한 접근성을 민주화합니다. Gemma 4는 다음과 같은 주요 기능 및 아키텍처의 발전을 도입합니다: 추론 (Reasoning) – 제품군 내의 모든 모델은 구성 가능한 사고 모드 (thinking modes)를 갖춘 매우 유능한 추론기로 설계되었습니다. 확장된 멀티모달리티 (Extended Multimodalities) – 텍스트, 다양한 종횡비 및 해상도 지원 이미지 (모든 모델), 비디오, 그리고 오디오 (E2B, E4B, 12B 모델에서 기본 지원)를 처리합니다. 다양하고 효율적인 아키텍처 (Diverse & Efficient Architectures) – 확장 가능한 배포를 위해 다양한 크기의 Dense 및 전문가 혼합 (MoE) 변형을 제공합니다. 온디바이스 최적화 (Optimized for On-Device) – 작은 모델들은 노트북과 모바일 기기에서 효율적인 로컬 실행을 위해 특별히 설계되었습니다. 증가된 컨텍스트 윈도우 (Increased Context Window) – 소형 모델은 128K 컨텍스트 윈도우를 특징으로 하며, 중형 모델은 256K를 지원합니다. 향상된 코딩 및 에이전트 능력 (Enhanced Coding & Agentic Capabilities) – 네이티브 함수 호출 (function-calling) 지원과 함께 코딩 벤치마크에서 주목할 만한 개선을 달성하여, 매우 유능한 자율 에이전트 (autonomous agents)를 구동합니다. 네이티브 시스템 프롬프트 지원 (Native System Prompt Support) – Gemma 4는 시스템 역할 (system role)에 대한 네이티브 지원을 도입하여, 더욱 구조화되고 제어 가능한 대화를 가능하게 합니다. https://developers.googleblog.com/gemma-4-12b-the-developer-guide/ feed your potato!!!

https://huggingface.co/ggml-org/gemma-4-12b-it-GGUF https://huggingface.co/unsloth/gemma-4-12b-it-GGUF /u/jacek2023가 r/LocalLLaMA에 제출한 링크 [링크] [댓글]