온디바이스 모델의 능력이 계속해서 확장되고 있습니다!

온디바이스 (On-device) 모델의 능력이 계속해서 확장되고 있습니다!
Gemma 4 12B와 Google AI Edge가 완전히 통합되어, 이제 노트북에서 직접 100% 온디바이스 (on-device) 에이전틱 워크플로우 (Agentic workflow)를 실행할 수 있습니다.

Mac 사용자에게 가장 환상적인 점: AI Edge Gallery는 코드를 직접 생성하며, AI Edge Eloquent는 음성 입력을 지원하고 텍스트를 실시간으로 편집할 수 있습니다. 이 두 가지 모두 새롭게 출시되었습니다.

하단부에서는 LiteRT-LM을 사용하여 Gemma 4 12B를 로컬에서 서빙 (Serve)하며, 전체 과정은 네트워크 연결이 필요 없고, 지연 시간 (latency)이 없으며, 모든 데이터는 사용자의 기기에 머뭅니다.

이전에는 12B 모델을 로컬에서 에이전틱 (agentic) 작업을 수행하기에는 아직 부족하다고 생각했습니다. 하지만 이번에 Google은 모델, 추론 엔진 (inference engine), 개발 도구 체인 (development toolchain)을 한 번에 패키징하여, 일반 개발자들이 노트북에서 AI를 진정으로 사적이고 연속적으로 실행 가능한 로컬 팀원으로 활용할 수 있게 만들었습니다.

이는 사실 현재 업계의 가장 주류인 경로를 정면으로 뒤집는 것입니다.

모두가 클라우드 (cloud) 상의 더 큰 모델과 더 낮은 지연 시간에 매진하고 있을 때, Google은 12B 로컬 모델을 통해 이렇게 말하고 있습니다: 진정한 생산성의 도약은 에이전틱 (agentic) 능력을 기기 단으로 완전히 하강시켜, AI를 운영체제 (OS)의 일부로 만드는 것입니다.