...여러분이 직접 그럴 필요가 없도록 말이죠. Honcho에 대해 궁금하지만, Docker를 사용하지 않는 한 명확한 설명이 부족해 막막했던 분들을 위해... https://preview.redd.it/4e8kiue94f6h1.png?width=1424&format=png&auto=webp&s=185816d44ab0cf40c1bc398fdb2708dad076169e 저에게 효과가 있었던 내용을 핵심만 추려 바로 복사해서 사용할 수 있는 가이드로 정리했습니다. https://github.com/nnnarvaez/Exploring-Gemma4-and-Gemini/blob/main/tutorials/installingHONCHO.md 테스트해 보시고 문제가 발생하면 알려주세요. 저는 해당 사이트의 매우 불명확하고, 유료 서비스 사용을 유도하며, 혼란스럽고, Docker를 설치하거나 비용을 지불하라고 강요하는 지침들로부터 저에게 효과가 있었던 내용만을 추출했습니다. https://preview.redd.it/wpff6b278f6h1.png?width=2598&format=png&auto=webp&s=d257269bb771b460a4391950c9076b004c0f24ee ### 로컬 환경 설정 (Local Environment Setup)
이 가이드를 마치면 다음과 같은 상태가 됩니다:

• 여러분의 기기에서 실행되는 로컬 Honcho 서버
• pgvector 확장이 포함된 PostgreSQL 데이터베이스
• 애플리케이션을 연결하기 위한 기본 설정
• 개발 또는 테스트를 위한 작동 가능한 환경
• Docker나 다른 번거로운 절차 없음

1단계: 마음을 진정시키는 음악을 트세요, 꼭 필요할 겁니다...

폴더를 만들고, 클론(clone) 등을 진행합니다

git clone https://github.com/plastic-labs/honcho.git
cd honcho
uv sync
source honcho/.venv/bin/activate

PostgreSQL 및 pgvector 설치가 필요한 경우:

sudo apt update
sudo apt install postgresql postgresql-contrib
# pgvector 확장 프로그램 설치 (본인의 버전에 맞는 pgvector 문서를 참조하세요)
sudo apt install postgresql-18-pgvector

DB 설정

# PostgreSQL에 접속하여 기본 데이터베이스에 확장 프로그램(extensions)을 활성화합니다
sudo -u postgres psql -c "CREATE EXTENSION IF NOT EXISTS vector; CREATE EXTENSION IF NOT EXISTS pg_trgm;"

원한다면 비밀번호를 변경하세요
sudo -u postgres psql -c "ALTER USER postgres PASSWORD 'a-password-here';"

유료 API 서비스들이 미리 채워진 거대한 템플릿을 우리의 .env 파일로 복사합니다 (나중에 정리할 예정입니다)

cp .env.template .env

비밀번호를 반영하도록 .env를 수정합니다

DB_CONNECTION_URI=postgresql+psycopg://postgres:a-password-here@localhost:5432/postgres

또는 일부 환경에서는 localhost가 제대로 작동하지 않을 수 있으므로 127.0.0.1을 사용하세요.

이게 정확히 무엇을 하는지는 모르겠지만, 문서에서는 다음을 실행해야 한다고 합니다:

uv run alembic upgrade head

이제 서버를 시작할 시간입니다

# 개발 서버 시작
fastapi dev src/main.py

저는 포트를 변경했습니다. 여러분도 변경할 수 있습니다.

# 원하는 경우 포트 변경
fastapi dev src/main.py --port 8082

하지만 이 프로세스는 백그라운드에서 실행되어야 하므로...

파일을 생성합니다

sudo nano /etc/systemd/system/honcho.service

다음 내용을 붙여넣으세요 (반드시 본인의 사용자 이름을 사용하세요 !!!!)

# 이 내용을 파일에 추가하고 저장합니다 / exit
[Unit]
Description=Honcho Self-Hosted Backend Service
After=network.target postgresql.service

[Service]
User=your-nix-user
WorkingDirectory=/home/your-nix-user/honcho
EnvironmentFile=/home/your-nix-user/honcho/.env
ExecStart=/home/your-nix-user/honcho/.venv/bin/fastapi run src/main.py --port 8082
Restart=always
RestartSec=5

[Install]
WantedBy=multi-user.target

리눅스 관리자(Linux Admin) 작업을 수행합니다

# 백그라운드 서비스 활성화 및 시작
sudo systemctl daemon-reload
sudo systemctl enable honcho.service
sudo systemctl start honcho.service

리눅스 전문가(Linux savant)다운 추가 확인 사항들...

상태 확인

sudo systemctl status honcho.service

로그 모니터링... 원한다면...

journalctl -u honcho.service -f

그놈들은 API 비용을 내라고 하지만, 우리는 로컬(local)이라고, 베이비.
모든 것을 로컬 추론 (local inference)으로 리다이렉트하도록 .env 파일을 수정하세요 (그들이 사기 치게 두지 마세요).

nano ~/honcho/.env

찾아서 수정하세요

Honcho가 OpenAI 호환 로컬 서버를 사용하도록 설정

LLM_DEFAULT_PROVIDER=openai
OPENAI_BASE_URL=http://192.168.1.240:8080/v1 # 실제 모델 서버 포트로 교체하세요
OPENAI_API_KEY=

추론을 위해 Honcho가 호출할 특정 로컬 모델을 지정하세요

DIALECTIC_MODEL=Gemma4-12B-Q6KP-Harness # 이 문자열이 로컬 모델 태그와 정확히 일치하는지 확인하세요

.env 템플릿은 엉망입니다. 모든 것이 주석 처리되어 있고, 아마도 예시로 보여주기 위한 용도인 듯한 여러 가지 사전 정의된 추론 제공자(inference providers)들이 있습니다. 그 난장판을 좀 정리해야 할 것입니다. 일부 값들은 주석 처리되어 있지만, 멍청한 Honcho는 그것들이 정의되어 있기를 기대하며, 그렇지 않으면 실패합니다.

추신: 시도하면 할수록 AI가 더 싫어지네요.
즐거운 Honching 되길...

submitted by /u/Nnazeroth [link] [comments]