월 320달러 AI 스택을 대체한 5가지 오픈 소스 도구

하지만 최근에 계산을 해보니 세상이 얼마나 망가져 있는지 깨닫게 되었습니다. 커서(Cursor)는 20달러, Claude Max는 100달러, GPT Pro도 또 100달러, Gemini Ultra도 또 100달러입니다. 게다가 11 Labs, Deep Seek 그리고 2년 전에 가입하고 잊어버린 모든 API 키들을 빼놓지 말아야 합니다. 제 AI 중독은 너무 비싸져서 술과 선(Zen)을 끊어야 할 정도였습니다. 그리고 저만 그런 것이 아닙니다. 미국에서 주류 판매량이 현재 역사적 최저 수준에 머물러 있습니다. 그리고 이 모든 것은 빅 AI 때문입니다. 하지만 그것이 저의 각성제였습니다.

그 이후로 저는 이 모든 구독을 취소하고, 비용은 더 적게 들 뿐만 아니라 훨씬 생산적인 개발자용 궁극의 AI 스택을 자체 호스팅하게 되었습니다. 오늘 영상에서는 여러분이 자신의 서버에서 실행할 수 있는 여러 무료 오픈 소스 프로젝트들을 살펴볼 것입니다. 클로드(Claude)나 GPT와 같은 거대 모델의 지능에 연결하는 옵션을 유지하면서도 이 도구들이 함께 작동하도록 만들 것입니다. 지금은 2026년 9월 7일이며, 여러분이 보고 계신 것은 The Code Report입니다. 우리가 이야기해야 할 첫 번째 도구는 Ollama인데, 모든 AI 스택은 모델을 필요로 하기 때문입니다.

대부분의 사람들에게 이것은 독점 코드를 수조 달러 규모의 기업에 보내고 그들이 그것을 완전히 안전하게 보관할 것이라고 신뢰하는 것을 의미합니다. 또는 Ollama를 사용하여 모든 것을 로컬에서 할 수 있습니다. 저는 이 도구에 대해 채널에서 여러 번 이야기해 왔는데, 본질적으로는 대규모 언어 모델(LLM)을 위한 Docker와 같습니다. 사용자 자신의 기기에서 모델을 다운로드하고 실행하기 위한 간단한 명령줄 인터페이스와 API를 제공합니다. 최신 중국 모델이나 다른 모든 오픈 가중치(open-weight) 모델들을 사용해보고 싶다면 이것이 아주 좋습니다.

더 좋은 점은 모든 프롬프트가 비공개로 유지되고 추론 비용이 0이라는 것입니다. 이는 신용카드가 거절된 후에도 모델이 계속 작동한다는 것을 의미합니다. 하지만 큰 문제는 최첨단(state-of-the-art)에 근접한 어떤 것도 실행할 하드웨어를 아마 소유하고 있지 않다는 것입니다. 작은 모델들은 거의 어디서든 실행되지만, 프론티어급 크기의 모델을 실행하려면 작은 데이터 센터가 필요합니다. 그리고 최고 수준의 결과물(top-tier slop)을 작성해야 하는 분위기 엔지니어(vibe engineer)에게는 이것이 큰 문제입니다. 다행히도 Nine Router라는 자체 호스팅 가능한 솔루션이 있는데, 이는 AI 도구와 수십 개의 다른 모델 제공업체 사이에 위치하여 하나의 로컬 엔드포인트를 통해 연결해 주는 AI 도구입니다.

아홉 개의 다른 API 키를 가지고 씨름하는 대신, Nine Router는 OpenAI와 호환되는 프록시가 있는 하나의 문을 제공하여 모든 것을 localhost를 통해 지정할 수 있게 합니다. 하지만 Nine Router의 정말 멋진 점은 폴백 계층(fallback tiers) 기능입니다. 첫 번째 계층에서는 이미 비용을 지불하고 있는 Claude Max 같은 기존 구독 모델이 있을 수 있습니다. 그런 다음 두 번째 계층에서는 백업용으로 저렴한 종이 토큰 OpenAI 모델을 가질 수 있습니다. 그리고 세 번째 계층에는 중국어 모델, Vertex 체험 크레딧 등 모든 무료 제공업체가 있습니다.

이는 Claude Max를 모두 소진하더라도 아무것도 할 필요 없이 자동으로 다음 계층으로 전환된다는 것을 의미합니다. 게다가 Nine Router는 사용량을 추적하고 도구 출력을 압축하여 토큰 소비를 줄여주므로 궁극적으로 많은 돈을 절약해 줍니다. 하지만 여전히 매일 수십억 개의 토큰을 소모한다면, AI 에이전트를 위한 컨텍스트 압축 계층인 Headroom에 대해 알아야 합니다. AI에게 div를 중앙 정렬하라고 요청했는데, 이를 위해 패키지.json 파일의 50,000줄을 읽는 경우입니다.

그러다가 Tailwind CSS를 설치해야 한다는 것을 깨닫기 위해 올림픽 규격 수영장만큼의 물을 증발시키기도 합니다. Headroom은 애플리케이션과 모델 제공자 사이에 위치하여 도구 출력(tool outputs)부터 로그 파일(log files), 그리고 기타 쓸모없는 청크(chunks)까지 모든 것을 압축한 후, 실제로 모델로 전송되기 직전의 데이터를 처리합니다. 이 도구의 영리한 설계 기능 중 하나는 가역적(reversible)이라는 점입니다. 모델로 전송되는 압축된 콘텐츠는 사용자의 로컬 머신에 캐시되므로, 나중에 모델이 필요할 때 언제든지 검색할 수 있습니다.

듣기에는 정말 멋지지만, 이 시점에서 '이 모든 것을 어디에 배포해야 할까?'라고 궁금해하실 수도 있습니다. 물론 그 답은 오늘 영상의 스폰서인 Hostinger입니다. 이곳은 자체 가상 사설 서버(VPS)를 호스팅할 수 있는 가장 저렴한 장소 중 하나일 뿐만 아니라, 패널 내부에 전체 Docker 카탈로그가 구축되어 있어 이 영상에서 제가 이야기하는 모든 오픈 소스 프로젝트를 단 한 번의 클릭으로 호스팅할 수 있다는 의미입니다. 실제로 이러한 모든 도구들을 하나의 VPS에서 실행하고 함께 작동하게 만들 수 있습니다.

hostinger.com/fireship으로 이동하여 제 쿠폰 코드를 사용해 자신만의 VPS를 구축하며 많은 돈을 절약하세요. 그렇게 한 후, 그곳에 설치하고 싶은 다음 도구는 Diffy입니다. 지금까지 우리가 이야기한 모든 것은 인프라(infrastructure)였지만, 이제 우리를 부자로 만들어 줄 실제 앱을 만들 시간입니다. 모든 것을 프롬프트(prompt)를 통해 엔지니어링하려고 하기보다, Diffy는 캔버스에 노드(nodes)를 드래그할 수 있게 해주는 시각적 빌더(visual builder)입니다. 이것은 Horse Tinder와 그 AI 매치메이킹 기능에 있어 판도를 바꾼 것(game-changer)입니다.

이 앱은 Dify에 각 말의 프로필 정보를 전송하고, 시각적 워크플로우를 통해 데이터베이스에서 호환되는 말을 검색한 다음 대규모 언어 모델(LLM)을 사용하여 각 매칭을 설명합니다. 예를 들어, Thunder와 Butternuts는 둘 다 트레일 라이드와 아이들 물기 놀이를 즐긴다는 공통점으로 인해 94%의 일치율을 보입니다. 그런 다음 전체 워크플로우를 API로 노출하여 프런트엔드 애플리케이션이 말이 오른쪽으로 스와이프할 때마다 호출하기만 하면 됩니다. 정말 놀랍지만, 앱을 만드는 것이 인간에게는 Open Hands가 출시되면서 2026년 2분기에 구식이 되었습니다. Open Hands는 사용자가 스스로를 해고할 수 있게 해주는 오픈 소스 도구입니다.

이 도구는 실제 GitHub 이슈를 모델이 수정하는 벤치마크인 SWE-bench에서 검증된 최고 성능의 자율 코딩 에이전트입니다. 무언가를 구축하고 고치는 것을 시도하는 대신, 그냥 GitHub 이슈를 열고 Open Hands가 모든 작업을 하도록 내버려 두세요. 본질적으로, 이는 여러분이 항상 켜져 있고 백그라운드에서 작동하는 AI 에이전트 군단을 자체 호스팅할 수 있는 명령 센터를 제공합니다. 그리고 이것이 여러분의 전용 가상 사설 서버(VPS)에서 실행되기 때문에, OpenAI 또는 Anthropic 모델로 실행하거나 이전에 Ollama와 함께 설치한 로컬 LLM을 사용할 선택권이 있습니다.

그리고 지금 시점에서, 우리는 상상할 수 있는 모든 유형의 소프트웨어를 구축할 수 있는 자체 사설 AI 스택을 갖게 되었습니다. 하지만 이것은 빙산의 일각에 불과하며, Hostinger의 Docker 카탈로그에는 아무런 어려움 없이 설치할 수 있는 수많은 다른 오픈 소스 애플리케이션들이 있습니다. 아래 링크를 확인하고 쿠폰 코드 fireship을 사용하여 지금 바로 Hostinger에서 여러분만의 전용 가상 사설 서버(VPS)를 실행해 보세요. 이것으로 Code Report를 마칩니다. 시청해 주셔서 감사드리며, 다음 영상에서 뵙겠습니다.