GPU 없이 PC에서 Chrome의 초소형 Gemma4 (aka Gemini Nano)를 직접 실행하는 방법

요약

Google Chrome 환경에서 GPU 없이 Gemma4(Gemini Nano) 모델을 로컬로 실행할 수 있는 Chrome 확장 프로그램을 소개합니다. 별도의 복잡한 설정 없이 16GB RAM과 Chrome만 있으면 초당 약 20토큰의 속도로 모델을 사용할 수 있습니다.

핵심 포인트

• GPU 없이 Chrome 브라우저 내에서 Gemma4 로컬 실행 가능
• llama.cpp나 vllm 같은 별도의 프레임워크 설치 불필요
• 16GB RAM 환경에서 초당 약 20토큰의 빠른 속도 제공
• 맞춤법 검사 및 텍스트 요약 등 다양한 로컬 활용 사례