프록시 환경에서 Ollama 모델을 pull 하는 방법

사내 네트워크 등 프록시를 경유하여 인터넷에 연결하는 Ubuntu 환경에서 모델 풀(pull)에 실패할 경우, systemctl edit 또는 override.conf로 프록시 설정을 지정합니다.

Ollama의 systemd 설정을 편집합니다.

sudo systemctl edit ollama

편집기가 열리면 다음 내용을 추가합니다. (프록시, 포트는 적절히 변경하세요)

[Service]
Environment="HTTPS_PROXY=http://프로キシ:포트"
Environment="NO_PROXY=localhost,127.0.0.1"

저장 후, systemd 설정을 재로드하고 Ollama를 재시작합니다.

sudo systemctl daemon-reload
sudo systemctl restart ollama

이렇게 하면,

ollama pull 모델명

등을 실행할 때 프록시를 경유하여 모델을 가져올 수 있게 됩니다.

systemctl edit을 사용하지 않고, 설정 파일을 직접 생성하는 것도 가능합니다.

sudo mkdir -p /etc/systemd/system/ollama.service.d/
sudo vi /etc/systemd/system/ollama.service.d/override.conf

다음 내용을 작성합니다. (프록시, 포트는 적절히 변경하세요)

[Service]
Environment="HTTPS_PROXY=http://프로キシ:포트"
Environment="NO_PROXY=localhost,127.0.0.1"

그 후, 마찬가지로 재로드 및 재시작을 수행합니다.

sudo systemctl daemon-reload
sudo systemctl restart ollama

즉, systemd의 drop-in 설정을 추가하는 것입니다.

요약