만약 어떤 애플리케이션이 웹 기반 인터페이스와 "하드웨어 가속 (hardware acceleration)"을 사용한다면, 해당 앱은 VRAM에 프레임을 생성하며 앱이 최소화되어 있는 상태에서도 때때로 이를 예약(reserved) 상태로 유지합니다.

제 Linux 머신에서는 Discord가 가장 심각한 가해자로, 450 MB의 VRAM을 점유하고 있습니다. Steam은 200 MB, Telegram은 150 MB를 차지하며, 다른 몇몇 앱들이 더해지면 총 1 GB 이상이 됩니다.

만약 VRAM에 무언가를 정말로 쥐어짜서 넣어야 하는 상황이라면, 해당 앱들을 종료하거나 설정에서 "하드웨어 가속 (hardware acceleration)"을 끄는 것을 확인하세요. 하지만 그렇게 하면 앱이 많이 끊길(stutter) 수 있습니다.

또한, 하드웨어 가속이 꺼진 별도의 브라우저를 두고, LLM을 작업할 때만 사용하는 것도 합리적일 수 있습니다.

추신: Nvidia를 사용하는 Linux 환경에서는 nvidia-smi 명령어를 통해 VRAM을 잡아먹는(gobblers) 목록을 확인할 수 있습니다.
submitted by /u/Barafu to r/LocalLLaMA
[link] [comments]