Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
llama.cpp 팀에서 개발한 공식 Mac용 앱 llama.app과 llama serve를 소개합니다. Ollama와 유사한 사용자 경험을 제공하며, Mac 환경에서 로컬 LLM을 더욱 쉽고 간편하게 설치하고 사용할 수 있도록 지원합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기https://llama.app/ 저는 수년 동안 llama.cpp를 사용해 왔고 이곳(r/LocalLLaMA)에도 항상 상주하고 있지만(저는 모더레이터입니다..), llama.app이 존재하며 HF/llama.cpp 팀에서 만든 공식 앱이라는 사실을 어찌 된 일인지 완전히 놓치고 있었습니다. 그래서 저와 같은 상황에 처한 분들이 분명히 있을 것이라 생각하여 이 글을 게시합니다. llama.cpp 팀은 이를 훨씬 더 사용하기 쉽게 만들고 있으며, 전반적으로 ollama가 수행하던 기능들을 내장하고 있습니다 (아쉽게도 ollama의 디자인 요소를 따르고 있는 것으로 보입니다 - 더 나은 UX가 가능하다고 생각하지만, llama.cpp를 더 접근하기 쉽게 만드는 방향성 자체는 확실히 옳은 움직임입니다). Mac을 위한 DMG 기반 설치를 제공합니다. 사진에 보이는 것과 같이 API URL, 설치된 모델 및 모델 추천을 보여주는 메뉴 바 유틸리티를 제공합니다. 명령줄(command line)을 선호하신다면, 단 한 번의 명령어로 설치가 가능합니다 (homebrew/winget이 필요하지 않음). llama serve가 이제 사용 가능하며 (llama-server를 대체함), 인수를 전달할 필요 없이 호출할 수 있고, llama.cpp가 들어오는 요청에 따라 적절한 모델을 로드하도록 처리합니다. 이미 한동안 llama.cpp를 사용해 왔거나 (또는 llama-swap을 사용하는) 많은 분들에게는 흥미롭거나 유용하지 않을 수도 있지만, 새 기기를 설정하거나 친구 및 가족에게 로컬 AI를 소개할 때는 매우 유용할 것입니다.