TextGen이 이제 네이티브 데스크톱 앱이 되었습니다. LM Studio의 오픈 소스 대안 (이전의 text-generation-webui).

요약

TextGen은 기존의 웹 UI 기반 프로젝트에서 진화하여, 이제 Windows, Linux, macOS를 지원하는 설치가 필요 없는(no-install) 데스크톱 애플리케이션으로 출시되었습니다. 이 새로운 버전은 사용자가 포터블 빌드를 다운로드하고 실행하기만 하면 되며, 시스템에 어떠한 파일도 남기지 않는 독립적인 구조를 가집니다. 또한, 완전한 개인정보 보호 기능과 최신 양자화 기술을 지원하는 ik_llama.cpp 빌드, 내장 웹 검색 기능을 제공하여 사용자 경험과 보안성을 크게 향상시켰습니다.

핵심 포인트

• TextGen이 설치가 필요 없는(no-install) 데스크톱 앱으로 진화했습니다 (Windows, Linux, macOS 지원).
• 포터블 빌드를 통해 실행되며, 시스템에 외부 파일 생성이 없어 완전히 독립적입니다.
• 완전한 개인정보 보호를 제공하여, 실행 시 OS 정보나 추론 백엔드 선택 사항을 서버로 전송하지 않습니다.
• ik_llama.cpp 빌드를 통해 SOTA 양자화 정확도를 가진 IQ4_KS 및 IQ5_KS와 같은 새로운 양자화 유형을 지원합니다.
• 내장된 `web_search` 도구를 통한 웹 검색 기능과 텍스트 첨부 파일 가져오기 기능을 제공합니다.