안녕하세요, 여러분. 제 친구가 로컬 모델을 구동하는 것에 관심을 갖게 되었고, 그래서 (Claude를 자유롭게 사용하여) Zest라는 것을 만들었습니다. https://github.com/yudhanjaya/Zest
무엇인가요?: Zest는 Lemonade server(llama.cpp와 필요한 백엔드를 설치함)와 Pi agent를 통합한 UI입니다. 이는 커맨드라인 서버나 파라미터 설정에 어려움을 느끼는 사람들에게 사용자 친화적인 인터페이스를 제공합니다. 초보 사용자가 필요로 하는 모든 기능이 갖춰져 있으며, 방해가 되지 않습니다. 앱이미지(appimage)만 다운로드하여 시작 투어를 거치면 바로 사용할 수 있습니다. 기본값으로 합리적인 설정들(예: 128k 컨텍스트)과 모델 추천 목록(10GB VRAM부터 26GB까지 테스트된 모든 모델)이 내장되어 있습니다. https://preview.redd.it/m2k2sis4hxxh1.png?width=3000&format=png&auto=webp&s=9a2da757429f9348d9e91336581bd0fbea0d8c47 유용한 문서와 이 주제에 대해 더 깊이 이해할 수 있는 링크들이 함께 제공되므로, 간단히 말해 초보 사용자에게 필요한 모든 것이 담겨 있습니다. 물론 완전히 오픈 소스입니다. 만약 로컬 AI의 세계로 소개하고 싶은 사람이 있다면 이 도구가 유용할지 확인해 주세요. 그리고 아이디어나 제안 사항이 있다면 이슈를 열거나 PR을 보내주시면 됩니다.
Lemonade와 Pi는 왜 함께 사용했나요? Lemonade: 백엔드를 처리하고 서버를 제공하는 일을 훌륭하게 수행하기 때문입니다. Pi: 간단하고 우아한 에이전트이기 때문입니다. 둘 다 이처럼 무언가에 패키징하여 결합하기 매우 쉽습니다. 그리고 제가 게을러서 그렇기도 합니다: 두 프로젝트 모두 꾸준히 업데이트되고 있기 때문에, 저 혼자 또 다른 추론 서버를 처음부터 작성할 필요가 없기 때문입니다.
무엇이 아닌가요?: 고급 사용자를 위한 것은 아닙니다. 예를 들어 작업(jobs)은 있지만 서브 에이전트(subagents)는 없습니다. 이런 경우 Pi의 철학이 정말 도움이 되었습니다. 실제로 저 자신도 Strata와 Opencode를 사용하기 때문에, 고급 사용자에게는 도움말 섹션에서 해당 도구들을 추천합니다.
Unsloth desktop / Atomic chat 등과는 어떻게 다른가요? 다르지 않습니다.
이것은 훨씬 더 가볍고 사용자 친화적이 되도록 노력합니다. 저는 친구가 llama.cpp, Unsloth Desktop, Opencode 등을 다운로드하고 설정하게 한 후에 이 작업을 결정했습니다... 어느 시점에서 선택 마비(choice paralysis)와 옵션에 대한 혼란이 지배적이라는 것을 알아차렸는데, 초보자가 어떤 항목(x thing)이 실제로 무엇을 위한 것인지 파악하기 쉬운 방법이 없었습니다. Zest의 모든 설정은 설명되어 있습니다. 추론 엔진(inference engines)이 하는 일까지 포함해서요. 모델이란 무엇인지, 어떻게 작동하는지 등 모든 것이 기본적인 수준에서 설명됩니다. 저는 인터페이스가 직관적임을 확실히 하면서 레모네이드와 파이(pi)의 비유를 유지했습니다. https://preview.redd.it/1eq31ippjxxh1.png?width=2000&format=png&auto=webp&s=c7613cd847a8380d79c22c6b1ffeef5dc5a3e6bb 저희는 또한 테마 지원도 합니다. 샘플을 보여드릴게요: https://preview.redd.it/rg4gbuq3ixxh1.png?width=2250&format=png&auto=webp&s=a82df6475c57f7a5cd5e55644b1eeca1327d46c3 https://preview.redd.it/to4s90u4ixxh1.png?width=2250&format=png&auto=webp&s=45d00e6d859547475939528f38010e9ea4038029 한번 살펴보시고 의견을 알려주세요! 제출자: /u/Icaruswept [링크] [댓글]