버그: `ollama create --experimental` 실행 시 0 또는 빈 메타데이터가 기록되는 문제 해결 (2026)
요약
Ollama의 실험적 기능을 사용하여 Gemma4 모델을 생성할 때 메타데이터가 누락되는 버그를 다룹니다. safetensors의 config.json 파싱 실패로 인해 모델 차원이 잘못 설정되는 문제를 설명하고, Modelfile을 통한 수동 해결 방법을 제시합니다.
핵심 포인트
- ollama create --experimental 실행 시 Gemma4 메타데이터 누락 발생
- safetensors의 config.json 파싱 실패가 주요 원인
- 잘못된 텐서 차원으로 인해 모델 출력 오류 발생
- Modelfile에 필수 파라미터를 명시하여 수동 해결 가능
이 기사는 원래 runaihome.com에 게시되었습니다.
Ollama 모델 생성 시 Gemma4 메타데이터 누락 문제
Gemma4ForCausalLM safetensors F16 모델에 대해 ollama create --experimental을 실행하면, 변환 과정에서 생성된 모델의 모든 gemma4.* 메타데이터 필드에 0 또는 빈 값이 기록됩니다. 이는 실험적 (experimental) 임포트 경로가 safetensors의 config.json으로부터 hidden_size, num_attention_heads, num_hidden_layers, 그리고 vocab_size 파라미터를 파싱하는 데 실패하기 때문에 발생합니다. 이러한 값들이 없으면 모델이 유효하지 않은 텐서 차원 (tensor dimensions)으로 초기화되어, 즉각적인 EOS 토큰 생성 및 유용한 출력값 부재를 초래합니다. 양자화된 (Quantized) 임포트 (int4/int8)의 경우, 양자화 도구에 Gemma4 기본값이 하드코딩되어 포함되어 있기 때문에 이 문제를 우회할 수 있습니다.
해결책 1: 수동 메타데이터를 포함한 명시적 Modelfile 사용
모든 필수 Gemma4 파라미터를 명시적으로 설정하는 Modelfile을 생성합니다:
bash
cat > Modelfile << 'EOF'
...
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기