저는 이곳 커뮤니티에 대한 존중의 의미로 Harbor 출시 소식을 평소에는 잘 올리지 않지만, v0.4.19 버전은 많은 사람의 시간을 절약해 줄 수 있을 것 같아 글을 올립니다.

이제 Harbor를 통해 로컬 추론 백엔드 (local inference backends)를 사용하여 로컬 에이전트 코딩 도구 (agentic coding tools)를 실행할 수 있습니다. 예를 들어, pi + vllm을 실행하려면 다음과 같이 합니다:

# 모델 다운로드 및 설정 완료 상태
harbor up vllm

# Harbor는 vllm이 실행 중임을 인지하고 이를 사용합니다
harbor launch pi

또한, launch 명령어는 내장된 최적화 LLM 게이트웨이 (optimising LLM gateway)를 통해 요청을 프록시 (proxy)할 수 있습니다. 이 게이트웨이는 웹 검색과 같은 도구 (tools)를 자동으로 주입하고 해결하므로, 명령어 끝에 --web만 추가하면 에이전트에 웹 검색 기능을 추가할 수 있으며 Harbor가 모든 것을 미리 연결해 줍니다:

harbor launch --web --model qwen3.5:4b --backend ik_llamacpp mi -p 'Find recent releases of agentic tools and write a two sentence overview'

더 자세한 내용은 여기 위키 (wiki)에서 확인하실 수 있습니다:

https://github.com/av/harbor/wiki/3.-Harbor-CLI-Reference#harbor-launch-launch-options---service-servicetool-args

감사합니다!