MLX/OMLX/DMR을 OpenCode/Hermes/Open WebUI와 함께 수동 설정 없이 한 번에 실행하는 방법 - Harbor

v0.5.0의 주요 변경 사항: 네이티브 서비스를 백엔드로 호스팅합니다.
harbor up webui llamacpp harbor up opencode mlx harbor up hermes omlx
이렇게 하면 MLX/OMLX뿐만 아니라 Docker Model Runner도 다운로드 및 구성하고, Open WebUI, OpenCode, Hermes 등 관련 서비스와 연결까지 해줍니다.
물론 아무도 이런 설정을 수동으로 하지 않기 때문에, CLI를 코딩 에이전트와 잘 연동되도록 조정했습니다. 이 CLI는 CLI에서 바로 확인할 수 있는 퍼스트파티 스킬을 기본 제공합니다. 게다가 OpenCode 같은 서비스에는 이러한 스킬들이 미리 설치되어 있어, 자연어(natural language)로 Harbor를 실행하거나 구성할 수 있습니다.
또한 소스별 라우팅을 지원하는 harbor pull이 추가되었습니다. 일반 HF 레포지토리(lamacpp 양자화 지원)는 huggingface-cli로, 베어 네임은 ollama로 연결됩니다.
harbor pull gemma4:12b harbor pull unsloth/Qwen3.6-27B-GGUF:UD-Q4_K_XL
감사합니다!
제출자 /u/Everlier
[링크] [댓글]