내 노트북에 $0으로 사설 AI 두뇌 구축하기

지난주 저는 하나의 아이디어를 떨쳐낼 수 없었습니다. 만약 제가 _제가 아는 모든 것_을 알고 있는 AI를 가질 수 있다면 어떨까? ChatGPT가 아닙니다. 제 하드웨어에서, 저의 지식을 담고, 누구의 API 청구서에도 의존하지 않는 것이요.

어제 저는 그것을 만들었습니다. 솔직한 분석입니다.

작동 방식

NEXUS는 일반적인 Windows 노트북(오래된 i7, 16GB RAM, GPU 없음)에서 실행됩니다. 이 시스템은 다음 기능을 수행합니다:

• 모든 것을 기억합니다. 폴더에 파일을 넣기만 하면, 60초 후에 검색 가능한 메모리가 됩니다.
• 저의 지식으로 답변합니다.

– 하드웨어: 0달러 (내가 가진 노트북)
– 소프트웨어: 0달러 (오픈 소스)
– API: 0달러 (모두 로컬)
– 시간: 집중적인 하루

미래에 발생할 수 있는 유일한 비용은 노트북의 용량을 초과했을 때 필요한 클라우드 GPU 서버(월 약 65달러)뿐이며, 이 시스템이 스스로 그 비용을 지불하도록 계획되어 있습니다.

이미 작동합니다

저녁 무렵, NEXUS가 첫 번째 자율 연구 임무를 수행했습니다. 웹을 검색하고, 산업 보고서 5개를 읽고, 자체 메모리를 교차 참조하여 인용된 시장 분석을 제 휴대폰으로 전송했습니다. 제가 커피를 내리는 동안 말이죠.

다음 단계는 저의 목소리로 초안을 작성하는 작문 에이전트(Writing Agent)와 이미 수집하고 있는 피드에서 기회를 포착하는 모니터링 에이전트(Monitor Agent)입니다.

단순히 기억하는 것이 아니라, 행동하는 지능입니다.

저는 이 전체 빌드를 공개적으로 기록하고 있습니다. 모든 명령어, 모든 비용, 그리고 모든 실패까지도요.

– 실시간 빌드 로그: t.me/theonaia
– X에서 팔로우: @Theonaia
– 시스템 자체: theonaia.org

설정(setup)에 대해 궁금한 점이 있으면 댓글로 물어보세요.

스택: Ollama · Open WebUI · Qdrant · PostgreSQL · Neo4j · n8n · SearXNG · Redis · MinIO · Docker — 모두 오픈 소스.