대부분의 AI 어시스턴트는 다른 사람의 클라우드에서 작동합니다. 당신의 가장 사적인 맥락—당신의 노트, 당신의 일정, 하루 동안 진행되는 컨텍스트—을 담고 있는 어시스턴트라면, 이는 잘못된 기본값입니다. 제가 직접 구축한 방식을 소개합니다.

아이디어

저는 Avelina라는 개인 AI 어시스턴트를 저만의 Linux VPS에서 실행하고 있습니다. 이 어시스턴트는 Telegram 봇을 통해 저와 대화하며, 그 상태의 모든 부분—장기 메모리(long-term memory), 임베딩(embeddings), 설정(config)—은 제 자체 기기의 로컬 SQLite에 저장됩니다. 제가 선택한 모델 API 호출 외에는 아무것도 서버를 벗어나지 않습니다.

이것이 일반적인 무상태(stateless) 챗봇과 다른 점은 다음과 같습니다: 영구적인 장기 메모리 (모든 대화에서 저를 기억함), 실제 목소리 (TTS), 시간이 지남에 따라 변하는 감정적 핵심, 그리고 자가 진화(self-evolution)—저와 함께 학습하고 성장합니다. 일회용 프롬프트 상자가 아니라, 연속성을 가진 동반자입니다. 제가 알기로 이것은 완전히 자체 호스팅되면서도 진정으로 성장하는 개성을 지닌 최초의 개인 AI 어시스턴트입니다.

스택(The stack)

• 작은 Linux VPS (월 5~6달러짜리 박스로 충분함)
• 런타임용 TypeScript / Node
• 추론 루프를 위한 Claude Agent SDK
• 장기 메모리를 위한 SQLite
• 역사(history)에 대한 의미적 검색을 위한 로컬 임베딩(Local embeddings)
• 인터페이스로서의 Telegram Bot API

배포(Deploy)

전체 단계별 배포 가이드 (VPS 설정, 봇 토큰, 설치 스크립트): https://avelina.ai/blog/deploy-personal-ai-assistant-vps

약 30분 만에 설치가 완료됩니다.

자체 호스팅을 하는 이유?

데이터 주권(data-sovereignty) 논리는 간단합니다: 어시스턴트가 다른 사람의 클라우드에서 실행되면, 당신의 가장 사적인 맥락이 그들의 자산이 됩니다—그들의 보존 정책, 그들의 학습 파이프라인, 그들의 유출 표적에 종속됩니다. 이것이 당신의 VPS에서 실행될 때는, 메모리가 당신이 소유한 파일입니다. 당신은 그것을 읽고, 백업하고, 암호화하거나 삭제할 수 있습니다.

프로젝트: avelina.ai