개발자 Arip이 10월 22일 X에서, 맥(Apple Silicon)에서 AI 모델을 돌리는 오픈소스 엔진 Locals를 공개했다고

요약

개발자 Arip이 Mac(Apple Silicon)에서 AI 모델을 구동하는 오픈소스 엔진 Locals를 공개했습니다. 이 엔진은 특히 여러 코딩 에이전트를 동시에 실행할 때 기존 대비 최대 3배 빠른 성능을 제공합니다. 이를 통해 사용자는 클라우드 의존 없이 로컬 환경에서 최신 LLM을 활용할 수 있습니다.

핵심 포인트

• Locals는 채팅이 아닌, 도구 호출에 특화된 에이전트용 로컬 서버입니다.
• M2 Pro Mac에서 다중 요청 처리 시 기존 대비 최대 3.1배의 속도 향상을 입증했습니다.
• 클라우드 의존도를 낮추고 프론티어급 모델을 로컬 환경에서 구동하는 것이 목표입니다.
• M1 이상 맥과 macOS 14 이상이 필요하며, MIT 라이선스 오픈소스입니다.