MacBook(Apple Silicon) 로컬 환경에 Ollama를 도입하여, Gemma 시리즈의 멀티모달 모델을 이용해 이미지 인식이 가능한 OpenAI 호환 API 서버를 구축하는 방법을 소개합니다.

• macOS
• Apple Silicon(M 시리즈)
• Ollama
• OpenAI SDK(Python / Node.js)

brew install ollama

실행 확인

ollama --version

API 엔드포인트

ollama pull gemma3:12b

IMG_DATA=$(base64 -i "$HOME/Desktop/sample.png")

curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d "{
...

{
"id": "chatcmpl-437",
"object": "chat.completion",
...

import base64
from openai import OpenAI
client = OpenAI(
...

• 이미지는 1024~1200px 정도로 리사이징하면 고속화됨
• 첫 추론(Inference)은 시간이 걸리므로, SDK에서는 timeout=60 정도를 권장
• OpenAI 호환 API이므로 기존 코드를 거의 그대로 이용 가능

Ollama와 Gemma를 조합함으로써, Mac만으로 완결되는 로컬 VLM(Vision Language Model) 환경을 간단히 구축할 수 있습니다.

• 완전 오프라인
• OpenAI 호환 API
• Python・Node.js에서 이용 가능
• 기밀 데이터를 외부로 전송하지 않는 안전한 이미지 인식 환경