llama-server 및 OpenAI 호환 API를 위한 경량 Web UI [llampart]

안녕하세요
제 작은 프로젝트인 llampart를 공유하고 싶습니다:
https://github.com/mchowy-troll/llampart
llampart는 LLM을 위한 경량 로컬 Web UI입니다. 원래 llama.cpp 프로젝트의 llama-ui 작업에 일부 기반을 두고 있었으나, 현재는 독립적인 데스크톱 중심 프로젝트로 개발되고 있습니다.
이 프로젝트는 llama-server를 위한 UI로 시작되었으며, 버전 1.2.0에서 OpenAI 호환 API 백엔드 지원을 추가했습니다.
따라서 이제 llama-server 외에도 다음을 노출하는 모든 백엔드에 llampart를 연결할 수 있습니다:
/v1/models
/v1/chat/completions
lama-server 및 OpenAI 호환 API 지원
단순한 임시방편(quick hack)이 아니라 제대로 구현하려고 노력했습니다. 각 제공자(provider)는 고유의 연결 설정, 선택된 모델, 즐겨찾기 모델 및 모델 목록을 가집니다. UI 또한 제공자를 인식합니다. 즉, llama-server에만 유효한 기능은 OpenAI 호환 백엔드를 사용할 때 숨겨집니다.
그 후 1.1.0 버전은 일상적인 사용에 초점을 맞춘 대규모 개선(polish) 릴리스였습니다:

인터페이스 스케일링 - HiDPI 화면용
영어, 폴란드어, 독일어, 프랑스어, 이탈리아어 및 스페인어 번역 개선
라이트(Light), 다크(Dark), 프로스티드 글래스(Frosted Glass) 테마 개선
Markdown, 코드, 수학, 표 및 첨부 파일 렌더링 개선
더 나은 파일 미리보기

제 목표는 llampart를 거대한 올인원(all-in-one) 앱으로 만들지 않으면서, 데스크톱에서 빠르고 읽기 쉬우며 사용하기 즐거운 상태로 유지하는 것입니다.
프로스티드 글래스(Frosted Glass) 테마
이 프로젝트는 MIT 라이선스 하에 오픈 소스로 제공됩니다.
여러분이 좋아해 주셨으면 좋겠습니다!
저장소(Repository):
https://github.com/mchowy-troll/llampart
/u/mossy_troll_84 제출
[link] [comments]