로컬 모델을 사용하여 화면 모니터링하는 방법. 오픈 소스, 설치 불필요 및 완전 무료!!

요약: 로컬 모델이 사용자의 화면을 모니터링하고 알림을 보내는 기능을 하는 이 오픈 소스 앱을 만들었습니다! 이제 브라우저에 모델을 설치할 수 있게 되어 누구나 로컬 AI를 사용할 수 있습니다! 어떤 설치 과정도 필요 없습니다 :DD
안녕하세요 r/LocalLLaMA!
다시 돌아왔습니다. 대규모 Observer 업데이트가 있으니 주목해 주세요: 먼저 모든 지원과 피드백에 진심으로 감사드립니다. 앱을 가능한 한 사용하기 쉽게 만들기 위해 열심히 노력했습니다!
새로운 기능?
이제 단순히 '로컬 모델을 사용하여 스팀 게임 다운로드가 완료되면 텔레그램으로 알려줘'라고 입력하기만 하면, Observer 에이전트가 웹 브라우저에서 모델을 다운로드하고 스팀 게임 모니터링을 시작합니다. 단 10초 만에 정말 쉽습니다 :))
LLM을 실행하는 가장 좋은 방법은? / 플랫폼 주의사항

WebApp은 transformers.js를 사용하는데, 이는 Linux나 구형 PC에서는 작동하지 않습니다 :((( 하지만 브라우저에서 Qwen3.5-0.8b가 원활하게 돌아가는 것을 보니 마치 불법 같습니다 :p
데스크톱 앱은 Rust 기반의 llama.cpp를 사용하여 Metal의 모든 성능을 활용할 수 있으며, 훨씬 더 안정적입니다.
물론 OpenAI와 호환되는 엔드포인트를 설정하여 사용할 수도 있습니다.

모두가 로컬 LLM을 유용하게 사용할 수 있도록 도와주세요!

WebApp (설치 불필요): app.observer-ai.com
이 프로젝트의 Github입니다 (완전 오픈 소스)
그리고 디스코드: https://discord.gg/wnBb7ZQDUC

질문이 있으시면 잠시 동안 이곳에 머무르겠습니다!
Roy
submitted by /u/Roy3838
[link] [comments]