제가 만든 'Anthropic/ChatGPT in a box'가 오픈 소스로 공개되었습니다.

오래 걸렸지만, 애초에 이렇게 했어야 했는데 말입니다. 하지만 LumaBrowser가 이제 오픈 소스가 되었습니다. 제가 1년 전에 처음 출시한 이후로 수천 건의 설치와 엄청난 양의 피드백을 받았습니다. 그리고 정말 많이 발전했습니다. 저는 이것을 'Anthropic/ChatGPT in a box'라고 가볍게 부르는 것이 아닙니다. 본질적으로 전체 생태계가 하나의 프로젝트에 담겨 있습니다. 저를 믿으세요, 제가 모두의 눈이 돌아가는 것을 느낄 수 있습니다. 하지만 말 그대로 대부분의 기능들이 내장되어 있으며, 심지어 LLM/Image/Music/Voice 모델을 자동으로 설정하는 온보딩 시스템까지 갖추고 있습니다. 기존 LM studio 설치(그리고 다른 곳도...)에서 가져올 수도 있습니다 (자동으로). 이 시스템은 사용자의 시스템 역량에 따라 모델을 자동으로 로드하고 언로드하며, 채팅 에이전트가 기대되는 방식으로 작동합니다. 이미지 생성을 요청하면, 프롬프트를 구성하고 도구를 직접 호출하며, 그 과정에서 LLM을 언로드하고 이미지 모델을 자동으로 로드하여 이미지를 생성한 다음 다시 LLM을 로드할 수 있습니다. 로컬 네트워크용 웹 서버를 내보낼 수도 있어 네트워크상의 누구나 접근할 수 있게 하거나, 여러 컴퓨터를 빠르게 클러스터로 결합하거나, 원하는 경우 도메인 이름을 설정하여 포트를 열고 친구들과 인터넷으로 공유할 수도 있습니다. 친구들과 링크를 공유할 수 있는 자동 게임 모드 생성 기능이 있으며, 이 기능은 LLM 자체와 연결되는 후크(hooks)까지 갖추고 있습니다. 또는 서버에서 LumaBrowser를 실행하고 클라이언트에서 다른 것을 실행하며 GPU를 원격 마운트하거나, 그곳의 LLM을 활용할 수도 있습니다. 에이전트 생성, 스케줄링된 작업, 시간 기반 작업, 트리거 기반 작업 기능도 있습니다. 코딩 및 데스크톱 사용을 위한 매우 유능한 'luma' CLI 에이전트가 있습니다... JetBrains suite와 VS Code를 위한 내장 애드온도 있습니다. 심지어 VS Code 자체가 어느 정도 통합되어 있습니다. 아니면 게으르게 코드 모드를 사용할 수도 있고요. 역할극(roleplay) 확장 기능은 언급할 것도 없으며, 이 기능은 장면과 캐릭터 등을 자동으로 업데이트할 수 있습니다. 그리고... 상상할 수 없을 만큼 더 많은 것들이 있습니다.

RAM 고정(pinning) 기능은 여분의 RAM이 있을 경우 모델을 스왑 간에 활성 상태로 유지하는 데 사용할 수 있습니다. 또한, 대화 캐시를 따뜻하게 유지할 수 있도록 커스텀 llama cpp 빌드를 제공합니다 (필수 사용 기능은 아니지만, RAM 고정 기능을 조금 더 빠르게 만듭니다). 라우팅 도구 호출을 위해 커스텀 훈련된 JEV 유사 모델도 포함되어 있습니다... 채팅에서 생성된 라이브 아티팩트를 기반으로 대시보드를 구축할 수 있는 기능이 있습니다. 기본적으로 여러 소스(예: Google 및 Microsoft 365)의 캘린더를 가져와 하나로 병합하는 커스텀 '허브' 항목을 통해 이를 구현할 수 있으며, ClickUp과 같은 작업 목록에도 적용할 수 있습니다 (물론 매핑 과정이 필요합니다). 원한다면 알림 기반 가로채기(interception)까지 할 수 있습니다... 왜냐고요? 모든 것을 한 곳에서 관리할 수 있기 때문입니다. 이제 로컬 AI 비서가 사용자의 하루, 작업 및 알림에 대한 전체 맥락을 갖게 됩니다. 웹 서버를 배포하는 경우 라이브 탭 공유 기능이 있습니다. 브라우저 탭을 마우스 오른쪽 버튼으로 클릭하여 공유할 수 있습니다... 다른 사람에게 해당 탭을 스트림처럼 볼 수 있는 URL을 제공할 수 있으며, 상호 작용까지 활성화할 수 있습니다... 예를 들어, Chili's에서 주문을 하고 아내에게 탭을 보내서 아내의 주문 부분을 추가하게 할 수도 있습니다 (임의 기능이지만 유용합니다). 핵심은 이것이... 저의 역작(magnum opus)이며 솔직히 말해 기능으로 넘쳐난다는 것입니다. 그리고 여기서 다른 분들이 제가 느끼는 만큼 즐기고 좋아해주시기를 바랍니다. 얼마나 많은 노력을 기울였는지 신이 아실 겁니다. https://github.com/amurgola/LumaBrowser submitted by /u/valdev [link] [comments]