[베타] membrane: 원시 로컬 LLM 대화를 자체 구조화된 실시간 엔티티 필드로 변환하는 자체 호스팅 오케스트레이션 레이어

안녕하세요 r/selfhosted 여러분, 대부분의 자체 호스팅 개인 비서 및 자동화 래퍼는 'AI'로 위장한 경직되고 하드코딩된 통합처럼 느껴집니다. 모든 API 페이로드를 수동으로 매핑해야 하거나, 끝없는 대화 로그를 컨텍스트 창/Vector DB에 덤프하고 모델이 노이즈를 걸러내기를 바랄 뿐입니다. 저는 시스템이 실시간 상태 추적을 기반으로 자체적으로 통합 레이어 역할을 하는 아키텍처를 원했습니다. 그래서 Ollama 위에 직접 실행되는 자체 호스팅 레이어인 membrane을 만들었습니다. 메모리를 수동적인 텍스트 스크롤이나 일련의 서드파티 플러그인으로 취급하는 대신, membrane은 로컬 모델이 자신만의 실시간 필드 엔티티 통합을 구축하고 유지하도록 강제합니다.

자체 구조화된 메모리 필드: 동적 엔티티 통합: 시스템과 상호 작용하거나 데이터를 통해 파이프할 때, 모델은 단순히 응답하는 것이 아니라 관찰 내용을 지속적으로 추출, 유형화 및 연결하여 통일된 엔티티 필드(사실, 상태, 감시 항목, 장기 목표)로 만듭니다. 이 통합은 인지적 계층에서 발생하므로, 시스템은 속성 및 엔티티가 실시간으로 어떻게 상관관계를 갖는지 학습합니다.

출처와 함께하는 제자리 업데이트 (In-Place Updates with Provenance): 상태가 변경될 때, 모델은 임베디드 스토어 내의 특정 엔티티를 제자리에서 업데이트하고, 그에 출처(provenance)를 기록합니다. 모델은 매 턴마다 오래된 top-k 벡터 청크 더미나 방대한 채팅 재생 기록이 아닌, 세계에 대한 고밀도적이고 업데이트된 스냅샷을 읽습니다.

설계상 적은 토큰: 시스템이 자체 필드 컨텍스트를 동적으로 구축하고 가지치기하기 때문에, 거대한 대화 루프를 삼킬 필요가 없습니다. 기록된 결론을 재사용하여, 대규모 모델이 적당한 로컬 하드웨어에서도 높은 성능을 발휘하도록 합니다.

반응형 감시 루프 (Reactive Watch Loops): 필드 엔티티 자체가 반응적입니다. 모델이 모니터링되는 엔티티 상태의 변화를 감지하면, 사용자 프롬프트가 기다릴 필요 없이 독립적으로 종속성을 평가하고 다운스트림 액션이나 워크플로우를 트리거할 수 있습니다.

환경(Environment): 사용자의 기기에서 100% 로컬로 실행됩니다 (Linux, macOS 또는 Android/Termux). Python 3.11 이상이 필요하며, 설정에 약 15분이 소요됩니다. 이 프로젝트는 현재 공개 베타 버전입니다. 정적인 API 연결보다는 자율적인 상태 합성(autonomous state synthesis)에 초점을 맞춘 오케스트레이션 레이어에 관심이 있다면, 저장소의 docs/BETA.md를 확인해 보세요. 👉 GitHub: github.com 제출자 /u/Ok_Role_6215 [링크] [댓글]