[출시] Nexidion – 자율적인 로컬 AI 백그라운드 워커를 갖춘 개인용 지식 저장소

요약

Nexidion은 개인정보 보호에 중점을 둔 개인용 지식 저장소 프로젝트로, 오픈 소스로 공개되었습니다. 이 시스템은 Docker를 활용하여 Postgres DB, 백엔드, 프론트엔드, 그리고 AI 태스크 러너를 단일 명령어로 쉽게 배포할 수 있도록 설계되었습니다. 특히 VRAM 제약이 있는 환경에서도 35B 모델을 구동하는 상세한 기술적 가이드와 최적화된 실행 방법을 제공합니다.

핵심 포인트

• 개인정보 보호에 초점을 맞춘 개인용 지식 저장소 'Nexidion'을 오픈 소스로 공개함.
• Docker Compose를 사용하여 Postgres DB, 백엔드, 프론트엔드, AI 태스크 러너를 단일 명령어로 통합 배포할 수 있음.
• VRAM 제약 환경에서도 35B 모델 구동을 위한 상세한 Docker 명령어와 최적화 기법(flash attention, Q8 KV cache 등)을 공유함.
• 사용자 피드백을 요청하며, 로컬 AI 백그라운드 에이전트의 성능 및 일괄 정리 프롬프트에 대한 의견을 구하고 있음.