저는 저의 로컬 우선(local-first) Windows 글쓰기 보조 도구인 TextRecast v0.2.0의 주요 업데이트 버전을 출시했습니다.

TextRecast를 사용하면 다른 Windows 애플리케이션에서 텍스트를 선택하고, 컴퓨터에서 로컬로 실행되는 소형 언어 모델(Small Language Model)을 사용하여 텍스트를 개선, 단축, 확장, 요약하거나 어조를 변경할 수 있습니다.

계정, API 키, Ollama 설치, Python 환경 또는 클라우드 텍스트 처리 서비스가 전혀 필요하지 않습니다.

v0.2.0에서 무엇이 바뀌었나요?

가장 주요한 추가 사항은 명시적이고 사용자가 제어할 수 있는 모델 선택 기능입니다.

TextRecast는 모델 다운로드 요청을 하기 전에, 이제 다음과 같은 정보와 함께 사용 가능한 모델들을 표시합니다:

• 의도된 역할 (Intended role)
• 다운로드 크기
• 하드웨어 호환성
• 영어 지원 상태
• 알려진 제한 사항
• 모델의 실험적 여부

TextRecast는 사용자가 확인한 정확한 모델만을 다운로드합니다.

사용 가능한 모델

더 작은 Qwen 2.5 모델은 여전히 빠른 기본 모델로 유지됩니다. 추가된 모델들은 실험적(experimental)이라고 명확히 표시되어 있는데, 이는 로컬 언어 모델이 여전히 사실, 역할, 조건 또는 마감일 문구를 변경할 수 있기 때문입니다.

현재 모든 프로필은 영어 재작성(English rewriting)을 목적으로 합니다.

모델별 동작 (Model-specific behavior)

서로 다른 모델 제품군(model families)이 항상 동일한 프롬프트(prompt)나 샘플링 설정(sampling configuration)에 잘 반응하는 것은 아닙니다.

이번 릴리스에서는 다음 모델들을 위한 별도의 어댑터(adapters)를 추가했습니다:

• Qwen 2.5
• Qwen 3.5
• Granite 4.1

각 어댑터는 동일한 설치 및 추론(inference) 인프라를 공유하면서도, 자신만의 프롬프트 형식(prompt format), 채팅 템플릿(chat template), 중지 시퀀스(stop sequences) 및 샘플링 프로필(sampling profile)을 정의할 수 있습니다.

이를 통해 별도의 모델 서버를 요구하지 않고도 애플리케이션 아키텍처를 확장 가능하게 유지할 수 있습니다.

더 안전한 모델 다운로드

다운로드 프로세스는 여전히 사용자가 제어하고 검증할 수 있습니다:

1. TextRecast는 사용 가능한 선택지를 보여줍니다.
2. 사용자가 모델을 선택합니다.
3. 확인을 위해 정확한 모델과 크기가 표시됩니다.
4. 확인된 모델만 다운로드됩니다.
5. 최종 파일은 예상 크기 및 SHA-256 체크섬 (checksum)과 일치해야 합니다.
6. 중단된 다운로드는 다시 시작하는 대신 재개할 수 있습니다.

유효하게 설치된 모델은 이후 실행 시 재사용됩니다.

공개 릴리스 (Public release) 아카이브는 모델을 포함하지 않으므로, 사용자가 사용하지 않을 수도 있는 수 기가바이트의 모델을 다운로드할 필요가 없습니다.

하드웨어 인지 선택 (Hardware-aware selection)

TextRecast는 모델을 추천하기 전에 사용 가능한 메모리, CPU 성능 및 저장 공간을 검사합니다.

추천은 숨겨진 자동 결정이라기보다 가이드 역할을 합니다. 사용자는 여전히 사용 가능한 선택지를 확인하고 어떤 호환 가능한 모델을 설치할지 제어합니다.

한 번에 하나의 모델만 로드됩니다.

로컬 Windows 통합

TextRecast는 다른 애플리케이션에서 선택된 텍스트와 작동하기 위해 Windows UI 자동화 (UI Automation), 클립보드 폴백 (clipboard fallback) 및 입력 API를 사용합니다.

교체하기 전에 소스 창, 프로세스, 캡처 시점 및 선택된 콘텐츠를 검증합니다. 선택된 텍스트와 생성된 텍스트는 의도적으로 애플리케이션 로그나 기록에 기록되지 않습니다.

모델 추론 (inference)은 LLamaSharp를 통해 CPU에서 로컬로 실행됩니다.

테스트 및 패키징

v0.2.0을 위해 영어 자격 코퍼스 (qualification corpus)를 확장하였으며, 다음을 포함하는 모델별 벤치마크 도구를 추가했습니다:

• 출력 품질 (Output quality)
• 의미 보존 (Semantic preservation)
• 동작 의도 (Operation intent)
• 지연 시간 (Latency)
• 첫 번째 토큰 생성 시간 (Time to first token)
• 생성 처리량 (Generation throughput)
• 피크 메모리 사용량 (Peak memory usage)

현재 리포지토리 (repository)는 모든 126개의 자동화된 테스트를 통과합니다.

Windows x64 빌드는 독립형 (self-contained)이므로 사용자가 .NET 10을 별도로 설치할 필요가 없습니다. 릴리스에는 해당 프로젝트, 종속성 (dependency), 아이콘, .NET 런타임 및 WPF 법적 고지 사항이 포함되어 있습니다.

Microsoft Visual C++ x64 재배포 가능 패키지 (Redistributable)가 여전히 필요할 수 있습니다.

TextRecast 사용해보기

리포지토리 (Repository):

https://github.com/snss10/TextRecast

v0.2.0 릴리스:

https://github.com/snss10/TextRecast/releases/tag/v0.2.0

전체 TextRecast-v0.2.0-win-x64.zip 파일을 다운로드하여 압축을 해제한 후, TextRecast.exe를 실행하세요.

애플리케이션 설정 과정에서 호환 가능한 모델 중 하나를 선택하고 확인하라는 요청이 나타납니다.

TextRecast는 Apache License 2.0에 따라 오픈 소스 (Open Source)로 제공됩니다.