이번 주 직접 호스팅할 가치가 있는 GitHub 저장소 6가지: Agent Stack
요약
본 기사는 직접 호스팅하여 운영할 가치가 있는 6가지 에이전트 관련 GitHub 저장소를 소개합니다. Hindsight는 에이전트의 메모리 시스템을 제공하며, Octop은 다중 사용자 및 다양한 채널을 지원하는 개인 AI 비서입니다. 이 도구들은 로컬 환경에서 LLM 기능을 강화하고 에이전트의 지속적인 학습 능력을 향상시키는 데 초점을 맞추고 있습니다.
핵심 포인트
- Hindsight: 에이전트가 경험을 저장하며 시간이 지남에 따라 학습하는 메모리 시스템 제공.
- Octop: 다중 사용자, 다양한 IM 채널 연동이 가능한 개인 AI 비서 솔루션.
- 직접 호스팅 가능하여 데이터 주권과 커스터마이징에 유리함.
- RAG, 자연어 크론 작업 등 에이전트의 기능을 확장하는 도구들이 소개됨.
지난 2년 동안 에이전트(agent) 이야기는 누군가의 클라우드에 존재했습니다. 하지만 이번 주 GitHub의 트렌딩 페이지는 다른 이야기를 들려주었습니다. 왜냐하면 그곳은 메모리, 다중 사용자 비서, Workers 플랫폼, 빠른 의사 결정 모델, 비용 대시보드, 푸시 받은 편지함 등 직접 운영할 수 있는 에이전트 도구들로 가득 차 있기 때문입니다. 제가 실제로 살펴볼 6가지를 소개합니다.
이번 주 직접 호스팅할 가치가 있는 것: Hindsight (에이전트 메모리), Octop (개인 AI 비서), open-compute (직접 운영하는 Workers), CLM-8B (빠른 에이전트 의사 결정), Agent Console (토큰 비용), Boop (사용자 소유의 푸시 알림).
1. Hindsight: 에이전트를 위한 메모리
Hindsight는 이번 주 GitHub에서 가장 트렌딩인 저장소로, 7일 만에 약 11,000개의 새 스타를 기록했으며 총 38,400개에 달합니다. 이 시스템은 MIT 라이선스를 따르는 메모리 시스템으로, 월드 팩트(World facts), 경험(Experiences), 관찰(Observations), 정신 모델(Mental models)을 저장하여 에이전트가 채팅 기록을 재현하는 대신 시간이 지남에 따라 학습하게 합니다.
이는 Postgres를 내장한 하나의 Docker 컨테이너로 배포되며, 로컬 환경(ollama, lmstudio, llamacpp)과 기존 Claude Pro/Max 또는 ChatGPT 구독을 포함하여 25개 이상의 LLM 제공업체와 통신합니다.
docker run -it --pull always --name hindsight --restart unless-stopped -p 8888:8888 -p 9999:9999 -e HINDSIGHT_API_LLM_API_KEY=$OPENAI_API_KEY -v hindsight-data:/home/hindsight/.pg0 ghcr.io/vectorize-io/hindsight:latest
서버보다 더 중요한 것은 추가 기능들입니다. MCP 서버, LLM 래퍼(pip install hindsight-litellm), 그리고 Claude Code, Codex, Cursor에 각 저장소별 프로젝트 메모리를 제공하는 코딩 에이전트 설치 프로그램이 있습니다. 자세한 내용은 hindsight.vectorize.io에서 확인할 수 있습니다.
주의할 점: 최첨단 LongMemEval 결과는 이 프로젝트 자체의 주장인 부분이므로, 먼저 사용자의 에이전트로 테스트해 보는 것이 좋습니다.
2. Octop: 집 전체를 위한 직접 호스팅 AI 비서
Octop은 Tencent Cloud의 다중 사용자, 다중 에이전트 비서입니다. MIT 라이선스를 따르며, 약 5,400개의 스타를 보유했고, 버전은 1.0.2b4이며 Python 3.12 이상을 사용합니다. 기본적으로 SQLite를 사용하며 PostgreSQL도 선택 가능합니다. 모든 것이 하나의 재시작 안전 프로세스로 실행되며, 부팅 시 데이터베이스에서 상태를 재구축합니다.
웹 대시보드, 데스크톱 앱, CLI 또는 Telegram, Discord, WeChat, DingTalk와 같은 IM 채널을 통해 채팅할 수 있습니다. 또한 RAG 지식 기반, 자연어 크론 작업(natural-language cron jobs), 브라우저 자동화, 원격 데스크톱 뷰, 그리고 권한 게이트 뒤에서 OpenCode나 Claude Code에 코딩 작업을 위임하는 ACP 기능도 제공합니다.
pip install octop
공식 설치 프로그램은 uv를 사용하여 ~/.octop/ 경로 아래에 격리된 venv를 구축하며 시스템 Python 환경은 건드리지 않습니다. docker-compose.yml 파일도 함께 제공됩니다. 더 자세한 내용은 octop.cloud을 참고하세요.
주의할 점: 베타 버전이며, 잠가야 할 기능이 많기 때문에 가족이나 연구실 배포와 같이 사설 네트워크에서 먼저 실행하는 것이 좋습니다.
3. open-compute: 자체 머신에서 사용하는 Cloudflare Workers
open-compute는 Rust 바이너리 하나로 구현된 Workers 호환 플랫폼이며, Apache-2.0 라이선스를 따르고 약 1,300개의 스타를 보유하고 있습니다. SQLite와 로컬 또는 S3 호환 스토리지에 기반하여 KV, D1, R2, Durable Objects, Queues, Workflows 기능을 단일 머신에서 사용할 수 있습니다. Kubernetes도, Redis도, 서비스 메시(service mesh)도 필요 없습니다.
설치 후 ocd setup --yes와 ocd status를 실행하고, 프로젝트 로컬 wrangler 4.138.0을 사용하여 ocd wrangler deploy로 배포합니다. Worker 코드는 고정된 체크섬 검증이 완료된 workerd 포크에서 실행됩니다.
curl -fsSL https://open-compute.dev/install.sh | sh
어떤 파이프라인 설치 스크립트와 마찬가지로, open-compute.dev에서 스크립트를 먼저 읽어보세요.
주의할 점: 아직 초기 단계이며 단일 머신 전용입니다. 이미 Coolify를 사용하고 있거나 순수 컨테이너에 만족한다면, 이번 달에는 Portainer 3.0 뉴스가 더 관련성 높은 읽을거리일 것입니다.
4. CLM-8B: 문단 대신 의사결정 (decisions instead of paragraphs)
CLM-8B은 독특한 모델입니다. Stanford와 Nvidia가 개발한 System One 의사결정 모델이며, Apache-2.0 라이선스를 따르고 약 2,000개의 스타를 보유했으며, 2026년 9월 23일에 발표되었습니다. 이 모델은 상태(Noul, Choice, Score)에 대한 타이핑된 질문에 답변하여, 에이전트가 파싱해야 할 문단 대신 의사결정(decision)을 얻게 해줍니다.
이 모델은 6천만 개의 Nemotron Q&A 쌍으로 사전 학습되었고, 1백만 개의 에이전트 트랙젝토리(agentic trajectories)로 사후 학습되었습니다. 컴퓨터 사용, 게임 및 도구 호출 작업에서 Jev보다 최대 9배 낮은 지연 시간(latency)을 보고하며, 가벼운 파인튜닝 후 Terminal-Bench 2.1에서 87.6%, DeepSWE에서 81.6%의 검증기(verifier) 성능을 보입니다.
pip install contrastive-lm
그런 다음 vllm serve Qwen/Qwen3-8B를 인코더로 실행하고, clm-serve를 함께 사용합니다. 이 과정에서 첫 실행 시 75MB의 참조 헤드(reference head)가 다운로드됩니다. 2048 토큰을 초과하는 상태는 두 제한을 동시에 높이지 않으면 잘립니다.
주의할 점: vLLM이 설치된 Nvidia GPU가 필요하며, 많은 작은 의사결정을 내리는 에이전트를 구축할 때만 효과적입니다. 일반적인 로컬 모델의 경우, 대신 제가 작성한 DeepSeek V4.1 Flash 포스트부터 시작하는 것이 좋습니다.
5. Agent Console: 토큰은 어디로 갔을까?
Agent Console은 코딩 에이전트를 위한 로컬 우선(local-first) 관찰 가능성(observability) 도구입니다. MIT에서 개발했으며, 약 520개의 스타를 보유했고, Node.js 22 이상을 요구합니다. 이 도구는 이미 사용자의 장치에 있는 Claude Code 및 Codex 기록을 읽어 토큰 수, 캐시 읽기/쓰기(cache reads and writes), 모델 정보 및 세션당/장치당 목록 가격 비용 등을 보여줍니다.
선택적으로 자체 호스팅 가능한 팀 허브(team hub)를 통해 노트북과 빌드 박스 전반에 걸친 단일 뷰를 제공하며, Claude Code OpenTelemetry 또는 LiteLLM 메트릭을 수집하고, Prometheus /metrics 엔드포인트를 노출하며, Grafana 대시보드를 전송할 수 있습니다. 원격 측정(telemetry) 기능은 전혀 없으며, 발표 모드에서는 프로젝트 및 장치 이름을 대체 값으로 표시하여 화면 공유가 안전합니다.
주의할 점: 이것은 가시성 도구입니다. 낭비되는 부분을 보여줄 뿐, 제거해주지는 않습니다.
6. Boop: 소유하는 작은 푸시 인박스
Boop은 여기서 가장 작은 프로젝트이자 어쩌면 제가 가장 좋아하는 것입니다. Go 바이너리 하나, SQLite 파일 하나, Docker 컨테이너 하나, MIT 라이선스, 약 820개의 스타를 가지고 있습니다. 사용자의 앱이 프로젝트 API 키와 함께 이벤트를 POST하면, 서버가 이를 마스킹하고 저장한 다음 사용자 소유의 .p8 키로 Apple의 APNs(Apple Push Notification service)에 직접 푸시합니다. 호스팅된 릴레이나 계정, 원격 측정 기능이 전혀 없습니다.
푸시는 제목, 본문, 이벤트 ID만 포함하며, 휴대폰은 나머지 내용을 서버에서 가져옵니다. 이는 백업 알림, 실패한 크론 작업(cron jobs), 배포 핑(deploy pings)에 적합합니다.
docker compose up -d --build
모든 것이 ./data/boop.db에 저장되므로, 이 파일 하나가 전체 백업이 됩니다.
주의할 점: iOS 앱은 소스 코드만 제공되므로, 사용자가 직접 빌드하고 서명해야 하며, 푸시를 위해서는 Apple 개발자 설정이 필요합니다. 이는 5분 만에 설치할 수 있는 프로젝트라기보다는 주말 동안 할 수 있는 프로젝트입니다.
비교 분석
| 프로젝트 | 기능 | 라이선스 | 요구 사항 |
| :--- | :--- | :--- |
| Hindsight | 에이전트 메모리 (Agent memory) | MIT | Docker, LLM 키 또는 로컬 모델 |
| ... |
이번 주 주목할 만한 다른 프로젝트
제가 검토하지 않은 네 가지 프로젝트가 더 있습니다. 지난달 선택작은 9월 정리(September roundup)를 참고하세요.
-
ZCode: Z.ai의 코딩 에이전트 하네스(coding agent harness), Apache-2.0, 약 6,900개의 스타.
-
WeKnora: 문서를 RAG, 에이전트, 그리고 자체 유지 관리형 위키로 변환하며, 약 30,700개의 스타.
-
golive-skill: 에이전트 스킬(Agent Skill)과 CLI를 결합하여 에이전트가 만든 앱을 사용자의 자체 호스팅, 데이터베이스 및 도메인 계정에 실제로 배포할 수 있게 합니다. MIT 라이선스, 약 1,000개의 스타.
-
AgentVerse-OS: 개발자와 그 에이전트를 위한 개인 클라우드 OS로, 하나의 Ubuntu 서버에서 작동합니다. 알파 버전, 약 1,000개의 스타.
제가 가장 먼저 실행해 볼 것
Hindsight부터 시작해 봅시다. 이 프로젝트는 단일 컨테이너로 구성되어 있으며 로컬 모델과 연동되고, 메모리는 대부분의 홈 에이전트 설정에서 부족한 부분입니다. Claude Code나 Codex를 매일 사용한다면, 이번 주말에 Agent Console도 추가하세요. 토큰 지출을 측정하는 것은 거의 비용이 들지 않습니다.
다음은 iPhone을 소유하고 직접 앱을 구축하는 것에 거부감이 없는 분들을 위한 Boop입니다. Octop은 임시 가상 머신(VM)에서 테스트할 가치가 있으며, 제 Proxmox 초보자 가이드에서는 이를 설정하는 방법을 보여줍니다. 베타 버전인 동안에는 공용 인터넷에 연결하지 마세요.
Workers 코드를 이미 작성하고 있다면 open-compute를 건너뛰고, 에이전트를 구축할 Nvidia GPU가 없다면 CLM-8B는 건너뛰세요.
자주 묻는 질문
이 프로젝트들을 셀프 호스팅하려면 GPU가 필요한가요?
CLM-8B만 필요합니다. 이는 vLLM과 Nvidia GPU에서 실행되기 때문입니다. Hindsight는 API 키를 통해 호스팅 제공업체를 사용할 수 있으므로, 로컬 GPU는 ollama, lmstudio 또는 llamacpp를 선택할 때만 중요합니다. 나머지 네 가지 프로젝트는 GPU 요구 사항을 명시하지 않았습니다.
홈 랩에서 에이전트 메모리가 가치가 있나요?
에이전트를 정기적으로 실행한다면 그렇습니다. Hindsight는 사실(facts), 경험(experiences), 관찰(observations), 그리고 정신 모델(mental models)을 저장하여, 매 세션마다 채팅 기록을 재현하는 대신 시간이 지남에 따라 에이전트가 학습하게 합니다. Postgres를 내장한 단일 Docker 컨테이너로 제공되므로 설정 비용이 낮게 유지됩니다.
이 여섯 가지 프로젝트에는 어떤 하드웨어가 필요한가요?
다섯 개는 작은 설치만 필요합니다. Boop은 SQLite를 사용하는 하나의 Go 바이너리이며, open-compute는 단일 머신에서 실행되는 Rust 바이너리이고, Octop은 Python 3.12 이상과 SQLite가 필요하며, Agent Console은 Node.js 22 이상이 필요하고, Hindsight는 Docker가 필요합니다. CLM-8B가 가장 무거운 프로젝트인데 vLLM을 실행하는 Nvidia GPU가 필요하기 때문입니다.
만약 이 중 하나를 백업 기능과 함께 리버스 프록시 뒤에서 제대로 작동하도록 설정하고 싶다면, 그것이 제가 고객들을 위해 하는 작업의 종류이니 제 서비스를 확인해 보세요. 그렇지 않다면, 이번 주말에 하나를 골라보고 어떻게 되었는지 알려주세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기