안녕하세요 여러분,

제 프로젝트에 많은 업데이트를 진행해 왔으며, 이를 이곳에 공유하고자 합니다.

TextGen (이전의 text-generation-webui, 제 사용자 이름인 oobabooga 또는 ooba로도 알려짐)은 LLaMa와 llama.cpp가 존재하기 전인 2022년 12월부터 개발되어 왔습니다.

지난 두 달 동안, 이 프로젝트는 웹 UI에서 세련된 UI를 갖춘 Windows, Linux, macOS용 설치가 필요 없는 (no-install) 데스크톱 앱으로 진화했습니다. 이를 위해 매우 미니멀하고 우아한 Electron 통합 기능을 만들었습니다. (LM Studio 또한 Electron 위에서 실행되는 웹 UI라는 사실을 알고 계셨나요? 많은 분이 모르실 것 같네요.)

작동 방식은 다음과 같습니다:

1. 릴리스 페이지에서 *포터블 빌드 (portable build)*를 다운로드합니다.
2. 압축을 해제합니다.
3. textgen을 더블 클릭합니다.
4. 창이 나타납니다.

설치가 필요 없으며, 압축을 해제한 폴더 외부에는 어떠한 파일도 생성되지 않습니다. 완전히 독립적 (self-contained)입니다. 모든 채팅 기록과 설정은 빌드와 함께 제공되는 user_data 폴더에 저장됩니다.

CUDA, Vulkan, CPU 전용, Mac (Apple Silicon 및 Intel), 그리고 ROCm용 빌드가 있습니다.

차별화된 몇 가지 특징은 다음과 같습니다:

• 완전한 개인정보 보호 (Full privacy). LM Studio와 달리, 실행할 때마다 OS, CPU 아키텍처, 앱 버전 및 추론 백엔드(inference backend) 선택 사항을 서버로 전송하지 않습니다. 외부로 나가는 요청(outbound requests)이 전혀 없습니다.
• ik_llama.cpp 빌드 (LM Studio와 Ollama는 vanilla llama.cpp만 제공합니다). ik_llama.cpp는 SOTA(State-of-the-Art) 양자화 정확도를 가진 IQ4_KS 및 IQ5_KS와 같은 새로운 양자화 유형 (quant types)을 지원합니다.
• ddgs Python 라이브러리를 통한 내장 웹 검색 기능. 내장된 web_search 도구를 이용한 도구 호출 (tool-calling) 방식(Qwen 3.6 및 Gemma 4와 완벽하게 작동함) 또는 검색 결과를 텍스트 첨부 파일로 가져오는