이것은 순수한 보물이다. 지난달 나의 AI 청구서:
요약
이 글은 고가의 AI 서비스(Claude Max, ChatGPT Pro 등) 청구서에 대한 대안으로, 로컬 환경에서 구동 가능한 5가지 오픈소스 저장소를 소개합니다. 이 도구들은 자체 GPU와 API 키를 사용하여 비용을 절감하고, 특정 기능을 로컬로 구현하는 방법을 제시합니다.
핵심 포인트
- 고가 AI 서비스의 대안으로 로컬 LLM 활용 가능
- llama.cpp 기반 모델로 예/아니오 등 구조화된 답변 제공
- Qwen3.5-9b를 이용한 100% 로컬 브라우저 에이전트 구현
- DeepseekGUI는 데스크톱 워크벤치 기능을 제공하여 비용 절감에 도움
- Oriveo는 여러 LLM 프로바이더의 키를 통합 관리하는 단일 앱 역할
이건 정말 엄청난 보물이야.
지난달 나의 AI 청구서:
claude max 20x ............ $200
chatgpt pro ............... $200
supergrok heavy ........... $300
total ..................... $700
그러다가 GitHub를 둘러보다가 내 자체 머신에서 저 청구서의 지루한 절반을 먹어치울 수 있는 5개의 저장소를 발견했어.
rizzo-flow ................ 833 stars
typesafe의 jev를 위한 로컬 방식. llama.cpp 기반으로 작동하는 4.4gb 모델로, 모든 답변에 대해 예/아니오/하나 선택/확률 점수를 제공하며, URL 하나만 변경하여 API를 localhost에 연결할 수 있어.
llm2jev ................... 391 stars
type qwen3.5-4b를 jev 스타일의 의사결정 모델로 변환해 줘. 자체 벤치마크에서 p50가 48ms로, 실제 jev의 652ms 대비 성능을 보여줘.
fast-browser-use .......... 202 stars
qwen3.5-9b를 사용하며 100% 로컬에서 실행되는 브라우저 에이전트로, claude 코드와 codex에 스킬로 연결돼. 약 4초 만에 적절한 위키피디아 기사를 열고 클라우드 호출은 전혀 없어.
deepseekgui ............... 84 stars
desktop 워크벤치로 deepseek harness를 기반으로 하며 git, 내장 브라우저, 메모리 기능을 제공해. 매달 $200의 고정 비용 대신 토큰당 deepseek에만 비용을 지불하면 돼.
oriveo .................... 25 stars
openai, anthropic, gemini, grok, deepseek 및 10개 이상의 프로바이더를 위한 단일 앱. 사용자의 키를 사용하며 구독이나 계정이 필요 없어.
claude가 여전히 내가 가장 어려운 코드를 작성해 주지만, 예/아니오 호출, 브라우저 클릭, 그리고 일상적인 채팅은 내 GPU와 나만의 API 키로 옮겨졌고, 영수증은 더 이상 월세처럼 보이지 않아.
저장소는 댓글에 있어.
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Benchmark의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기