...여러분이 직접 그럴 필요가 없도록 말이죠. Honcho에 대해 궁금하지만, Docker를 사용하지 않는 한 명확한 설명이 부족해 막막했던 분들을 위해... https://preview.redd.it/4e8kiue94f6h1.png?width=1424&format=png&auto=webp&s=185816d44ab0cf40c1bc398fdb2708dad076169e 저에게 효과가 있었던 내용을 핵심만 추려 바로 복사해서 사용할 수 있는 가이드로 정리했습니다. https://github.com/nnnarvaez/Exploring-Gemma4-and-Gemini/blob/main/tutorials/installingHONCHO.md 테스트해 보시고 문제가 발생하면 알려주세요. 저는 해당 사이트의 매우 불명확하고, 유료 서비스 사용을 유도하며, 혼란스럽고, Docker를 설치하거나 비용을 지불하라고 강요하는 지침들로부터 저에게 효과가 있었던 내용만을 추출했습니다. https://preview.redd.it/wpff6b278f6h1.png?width=2598&format=png&auto=webp&s=d257269bb771b460a4391950c9076b004c0f24ee ### 로컬 환경 설정 (Local Environment Setup)
이 가이드를 마치면 다음과 같은 상태가 됩니다:
- 여러분의 기기에서 실행되는 로컬 Honcho 서버
- pgvector 확장이 포함된 PostgreSQL 데이터베이스
- 애플리케이션을 연결하기 위한 기본 설정
- 개발 또는 테스트를 위한 작동 가능한 환경
- Docker나 다른 번거로운 절차 없음
1단계: 마음을 진정시키는 음악을 트세요, 꼭 필요할 겁니다...
폴더를 만들고, 클론(clone) 등을 진행합니다
git clone https://github.com/plastic-labs/honcho.git
cd honcho
uv sync
source honcho/.venv/bin/activate
PostgreSQL 및 pgvector 설치가 필요한 경우:
sudo apt update
sudo apt install postgresql postgresql-contrib
sudo apt install postgresql-18-pgvector
DB 설정
sudo -u postgres psql -c "CREATE EXTENSION IF NOT EXISTS vector; CREATE EXTENSION IF NOT EXISTS pg_trgm;"
원한다면 비밀번호를 변경하세요
sudo -u postgres psql -c "ALTER USER postgres PASSWORD 'a-password-here';"
유료 API 서비스들이 미리 채워진 거대한 템플릿을 우리의 .env 파일로 복사합니다 (나중에 정리할 예정입니다)
비밀번호를 반영하도록 .env를 수정합니다
DB_CONNECTION_URI=postgresql+psycopg://postgres:a-password-here@localhost:5432/postgres
또는 일부 환경에서는 localhost가 제대로 작동하지 않을 수 있으므로 127.0.0.1을 사용하세요.
이게 정확히 무엇을 하는지는 모르겠지만, 문서에서는 다음을 실행해야 한다고 합니다:
uv run alembic upgrade head
이제 서버를 시작할 시간입니다
저는 포트를 변경했습니다. 여러분도 변경할 수 있습니다.
fastapi dev src/main.py --port 8082
하지만 이 프로세스는 백그라운드에서 실행되어야 하므로...
파일을 생성합니다
sudo nano /etc/systemd/system/honcho.service
다음 내용을 붙여넣으세요 (반드시 본인의 사용자 이름을 사용하세요 !!!!)
[Unit]
Description=Honcho Self-Hosted Backend Service
After=network.target postgresql.service
[Service]
User=your-nix-user
WorkingDirectory=/home/your-nix-user/honcho
EnvironmentFile=/home/your-nix-user/honcho/.env
ExecStart=/home/your-nix-user/honcho/.venv/bin/fastapi run src/main.py --port 8082
Restart=always
RestartSec=5
[Install]
WantedBy=multi-user.target
리눅스 관리자(Linux Admin) 작업을 수행합니다
sudo systemctl daemon-reload
sudo systemctl enable honcho.service
sudo systemctl start honcho.service
리눅스 전문가(Linux savant)다운 추가 확인 사항들...
상태 확인
sudo systemctl status honcho.service
로그 모니터링... 원한다면...
journalctl -u honcho.service -f
그놈들은 API 비용을 내라고 하지만, 우리는 로컬(local)이라고, 베이비.
모든 것을 로컬 추론 (local inference)으로 리다이렉트하도록 .env 파일을 수정하세요 (그들이 사기 치게 두지 마세요).
찾아서 수정하세요
Honcho가 OpenAI 호환 로컬 서버를 사용하도록 설정
LLM_DEFAULT_PROVIDER=openai
OPENAI_BASE_URL=http://192.168.1.240:8080/v1 # 실제 모델 서버 포트로 교체하세요
OPENAI_API_KEY=
추론을 위해 Honcho가 호출할 특정 로컬 모델을 지정하세요
DIALECTIC_MODEL=Gemma4-12B-Q6KP-Harness # 이 문자열이 로컬 모델 태그와 정확히 일치하는지 확인하세요
.env 템플릿은 엉망입니다. 모든 것이 주석 처리되어 있고, 아마도 예시로 보여주기 위한 용도인 듯한 여러 가지 사전 정의된 추론 제공자(inference providers)들이 있습니다. 그 난장판을 좀 정리해야 할 것입니다. 일부 값들은 주석 처리되어 있지만, 멍청한 Honcho는 그것들이 정의되어 있기를 기대하며, 그렇지 않으면 실패합니다.
추신: 시도하면 할수록 AI가 더 싫어지네요.
즐거운 Honching 되길...
submitted by /u/Nnazeroth [link] [comments]