![[오픈 소스] 생각을 쏟아내세요. 노트가 스스로 정리되도록 하세요. 언제든 질문하고 채팅하세요. 대표 이미지](https://preview.redd.it/uctqx23didgh1.gif?frame=1&width=140&height=105&auto=webp&s=a9613c7d7d4987c9c5a4d2fc50fff28918f7b4e0)
[오픈 소스] 생각을 쏟아내세요. 노트가 스스로 정리되도록 하세요. 언제든 질문하고 채팅하세요.
요약
Gray Box는 사용자의 아이디어와 노트를 캡처하고 LLM을 통해 자동으로 정리해주는 로컬 우선(local-first) 오픈 소스 도구입니다. Markdown 파일 기반으로 데이터 영속성을 보장하며, LiteLLM을 통해 다양한 모델을 지원합니다.
핵심 포인트
- 불변의 수신함(Immutable inbox) 방식을 통한 데이터 안전성 확보
- LLM의 추론과 Python의 결정론적 동작을 결합한 자동 정리 시스템
- Vector DB 없이 Markdown과 키워드 검색 중심의 가벼운 구조
- LiteLLM 지원으로 OpenAI, Anthropic, Ollama 등 다양한 모델 활용 가능
- CLI(TUI) 및 로컬 대시보드를 통한 직관적인 지식 관리
지난 몇 달 동안 저는 Gray Box를 구축해 왔습니다. 이는 제가 잊어버릴 수도 있는 모든 것(업무 노트, 회의 요약, 작업 담당자, 무작위 아이디어, 개인적인 내용 포함)을 위한 장기 기억 역할을 하는 작고 로컬 우선(local-first)인 도구입니다. 아이디어는 간단합니다: 캡처(Capture) — 구조를 요구하지 않고, 머릿속에 있는 무엇이든 즉시 쏟아냅니다. 이 단계는 의도적으로 아무런 영리한 동작을 하지 않습니다. 그저 텍스트를 불변의 수신함(immutable inbox)에 기록할 뿐입니다. 버그나 느린 API 호출로 인해 아이디어를 잃어버릴 가능성이 전혀 없습니다. 정리(Organize) — 필요할 때마다, LLM(대규모 언어 모델)이 처리되지 않은 노트를 읽고 사람, 프로젝트, 작업, 결정 사항, 회의 등을 추출합니다. 그런 다음 결정론적인(deterministic) Python(LLM이 아님)이 실제 위키 페이지를 생성/병합하고 백링크(backlinks)를 유지합니다. 모델은 추론만 할 뿐, 파일 시스템을 직접 건드리지 않습니다. 질문(Ask) — 지식 베이스에 질의하거나 채팅하여, 실제로 캡처한 내용에서만 추출된 인용된 답변을 받으세요. 만약 모르는 내용이라면 모른다고 말합니다. 환각(hallucination) 답변은 없습니다. 제가 이런 방식으로 구축한 이유: 데이터베이스 없이 Plain Markdown + YAML 프론트매터(frontmatter)를 사용합니다. 모든 페이지는 grep, diff를 사용하거나 어떤 에디터에서든 영원히 읽을 수 있는 .md 파일입니다. 내일 Gray Box 사용을 중단하더라도, 당신의 지식 베이스는 그저 하나의 폴더일 뿐입니다. 기본적으로 벡터 DB(vector DB)를 사용하지 않습니다. 개인적인 규모(수백~수천 페이지 미만)에서는 키워드 검색과 실제 링크 그래프(관련 항목 / 백링크, 검색 중 한 단계 이동)가 거의 모든 것을 처리합니다. 더 나은 재현율(recall)을 원한다면 임베딩(Embeddings)을 사용할 수 있지만, 이는 선택 사항이며 필수 조건이 아닙니다. 불변의 수신함(Immutable inbox). 당신의 원시 노트는 정리기에 의해 편집되거나 삭제되지 않습니다. 만약 LLM이 무언가를 잘못 추출하더라도, 당신의 원래 단어들은 항상 그 자리에 남아 있습니다. 어떤 LLM이든 가능합니다. LiteLLM을 기반으로 구축되었으므로, 설정값 하나로 OpenAI, Anthropic, Gemini, Mistral 또는 Ollama를 통한 완전한 로컬 모델을 지정할 수 있습니다. 또한 CLI 플래그를 외우고 싶지 않은 분들을 위해 멋진 대화형 TUI(화살표 키 메뉴, 파일 가져오기 단축키, 워크스페이스 전환, LLM 호출 중 라이브 스피너)도 함께 제공됩니다. 솔직히 이 부분이 제 프로젝트에서 가장 좋아하는 부분입니다.
또한 지식 베이스(knowledge base)를 탐색하고, 백링크(backlinks)를 살펴보고, 노트를 그래프(graph) 형태로 시각화하며, 수집된 지식과 채팅할 수 있는 가벼운 로컬 대시보드도 제공됩니다. 이 모든 과정은 기기를 벗어나지 않고 수행할 수 있습니다. Repo: https://github.com/Aaryanverma/graybox pypi: pip install graybox 정식 공개 출시가 임박했으므로, 진심으로 피드백을 받고 싶습니다. 특히 다른 도구들을 사용하며 "일단 캡처하고 나중에 구조화하는(capture now, structure later)" 방식을 시도해 보았고, 규모가 커질 때 어떤 부분에서 한계가 발생하는지에 대한 의견이 있으신 분들의 피드백을 기다립니다. 이 프로젝트는 "실시간 협업 팀 위키(real-time collaborative team wiki)"나 WYSIWYG 노트 앱이 되려는 것이 아닙니다. 가능한 한 마찰을 최소화하여 캡처된, 한 개인의 삶과 업무에 대한 실행 메모리(running memory)를 목표로 합니다. submitted by /u/Charming_Group_2950 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기