게임 플레이 시 VRAM을 자동으로 확보하고 로컬 LLM을 복원하는 경량 도구 제작

요약

본 글은 게임 플레이와 로컬 LLM 구동을 동시에 하는 사용자의 불편함을 해소하기 위해 'GamePause'라는 경량 오픈 소스 Windows 트레이 앱을 소개합니다. 이 도구는 게임 실행 시 자동으로 모델을 언로드하여 VRAM을 확보하고, 게임 종료 후에는 모델을 자동으로 복원하는 기능을 제공합니다.

핵심 포인트

• 게임 시작 시 LLM 모델을 자동 언로드하여 VRAM 확보
• 게임 종료 시 모델을 자동으로 복원해주는 기능 구현
• LM Studio/Ollama 등 로컬 AI 환경에 최적화된 도구
• Rust로 작성되었으며 모든 것이 로컬에서 실행됨