PewDiePie의 Odysseus는 로컬 AI가 단순히 드라이버 오류로 가득 찬 터미널 창이 아니라, 사람들이 실제로 사용하고 싶어 할 만한 무언가로 보이게 만들었습니다.

당연히 뒤따르는 질문은 이것입니다: 이와 유사한 것을 구축하려면 어떤 종류의 컴퓨터가 필요한가?

단일한 공식 "Odysseus PC" 부품 목록은 존재하지 않습니다. Odysseus는 워크스페이스(workspace)이며, 모델 서버(model server)가 대부분의 무거운 연산을 수행합니다. 인터페이스는 적당한 사양의 기기에서 실행하면서 이를 API, Ollama 서버, 네트워크상의 다른 컴퓨터 또는 GPU 워크스테이션(workstation)에 연결할 수 있습니다. 이러한 구분은 수천 달러를 절약해 줄 수 있습니다.

이 가이드는 공식 Odysseus 리포지토리, 현재 설정 가이드, 그리고 이 프로젝트가 지원하는 로컬 모델(local-model) 도구들의 문서를 사용합니다. 이 가이드는 무엇이 확인된 사항인지, 무엇이 사용하는 모델에 따라 달라지는지, 그리고 세 가지 서로 다른 예산에서 제가 무엇을 구축할 것인지를 설명합니다.

이 프로젝트가 처음이라면, 먼저 최신 Odysseus 프로젝트 업데이트를 읽어보세요. 또한 왜 PewDiePie의 오픈 소스 AI 워크스페이스가 그토록 많은 관심을 끌었는지에 대해서도 다루었습니다.

Odysseus에 실제로 필요한 것

Odysseus는 채팅, 에이전트(agents), 연구, 문서, 이메일, 노트, 캘린더 도구, 모델 비교, 메모리, 그리고 로컬 모델을 위한 하드웨어 인식 "Cookbook"을 결합합니다. 리포지토리는 현재 odysseus-dev GitHub 조직(organization) 아래에 있습니다. 2026년 7월 31일 기준, GitHub API는 84,000개 이상의 스타(stars)를 보여주었으며, 이 프로젝트는 AGPL-3.0-or-later 라이선스를 사용합니다.

앱 자체는 비싼 부분이 아닙니다. 공식 설정 가이드에 따르면 핵심 애플리케이션은 가볍습니다. 로컬 모델 서빙(serving)이 RAM, VRAM 및 연산 능력을 소비하는 부분입니다. 작은 호스트(host) 기기에서도 워크스페이스를 실행하면서 모델 요청을 API나 원격 서버로 보낼 수 있습니다.

PewDiePie가 실제로 구축한 것

PewDiePie는 Odysseus가 출시되기 전에 이례적으로 거대한 로컬 AI (local-AI) 머신을 구축했습니다. 그의 2025년 8월 영상

각 RTX 4000 Ada는 20 GB의 GDDR6 ECC 메모리를 보유하고 있어, 8개의 카드는 총 160 GB의 명목상 합계 VRAM을 제공합니다. 이것이 하나의 매끄러운 160 GB GPU처럼 작동하는 것은 아닙니다. 모델 서버는 카드 전체에 걸쳐 샤딩 (sharding) 또는 텐서 병렬성 (tensor parallelism)을 지원해야 합니다. 그는 해당 머신에서 TP8을 실행하며 Llama 3 70B를 구동하는 것에 대해 논의했습니다.

영상에서는 초기에 96 GB의 시스템 메모리와 각각 약 1,300와트(watts)로 정격화된 두 개의 전원 공급 장치 (PSU)를 보여주거나 언급했습니다. 정확한 PSU 모델과 그의 최종 구매 총액은 확인되지 않았습니다. 8개의 워크스테이션 GPU, Threadripper PRO, ECC 메모리, 특수 마운팅, 스토리지, 냉각 장치 및 듀얼 전원 공급 장치를 갖춘 머신을 재구성하는 데에는 세금이나 수입 비용을 제외하고 약 $17,000에서 $23,000 정도가 들 수 있지만, 이는 계획 단계의 추정치일 뿐 PewDiePie의 실제 영수증은 아닙니다.

그의 2026년 2월 영상

가장 중요한 점은: Odysseus는 이 중 어떤 하드웨어도 요구하지 않는다는 것입니다. PewDiePie의 워크스테이션은 그의 더 넓은 로컬 AI 실험의 일부입니다. 공개 프로젝트는 모델 불가지론적 (model-agnostic)이며, API, 작은 로컬 모델 또는 원격 모델 서버를 통해 실행될 수 있습니다.

이는 다음과 같은 네 가지 실질적인 사용 방법을 제공합니다:

• Odysseus를 로컬에서 실행하고 클라우드 모델 API를 사용하기
• Odysseus와 소형 모델을 동일한 컴퓨터에서 실행하기
• 워크스페이스를 한 기기에서 실행하고 더 강력한 모델 서버에 연결하기
• 더 큰 로컬 모델과 더 긴 에이전트 세션을 위해 전용 GPU 워크스테이션 구축하기

첫 번째 옵션이 가장 저렴합니다. 네 번째 옵션은 사람들이 "개인용 AI 워크스테이션"이라는 말을 들었을 때 상상하는 모습이지만, 반드시 필요한 것은 아닙니다.

VRAM은 박스에 적힌 이름보다 중요합니다

로컬 모델은 가중치 (weights), 컨텍스트 (context), 그리고 런타임 오버헤드 (runtime overhead)를 어딘가에 담을 수 있어야 합니다. NVIDIA 또는 AMD 시스템의 경우, 이는 보통 GPU VRAM을 의미합니다. Apple Silicon은 CPU와 GPU가 공유하는 통합 메모리 (unified memory)를 사용합니다. CPU 전용 추론 (inference)은 일반 시스템 RAM을 빌려 쓸 수 있지만, 대개 훨씬 느립니다.

양자화 (Quantization)는 모델 가중치에 필요한 메모리를 줄여줍니다. 4비트 (4-bit) 모델의 이론적인 최솟값은 파라미터당 약 0.5바이트이지만, 실제 파일에는 메타데이터, 스케일 (scales) 및 기타 오버헤드가 포함됩니다. 구체적인 예로, 공식 Qwen2.5-Coder-32B GGUF repository를 보면 Q4_K_M 파일은 16GB가 아니라 약 19.85GB로 기재되어 있습니다. Q8_0 파일은 약 34.82GB입니다. 여기에 런타임, 컨텍스트 윈도우 (context window), KV 캐시 (KV cache), 배치 (batching), 그리고 GPU 드라이버 할당량이 추가적인 메모리를 요구하게 됩니다.

이것이 바로 서류상으로는 적합해 보이는 모델이라도 여전히 메모리 부족 (out of memory) 현상이 발생할 수 있는 이유입니다. 더 긴 컨텍스트 윈도우와 동시 요청 (concurrent requests)은 결과를 극적으로 변화시킬 수 있습니다. 아래 표는 보증이 아닌 시작점으로만 참고하시기 바랍니다.

내가 구축하는 세 가지 방법

이것은 계획 단계의 추정치이며, 실제 매장의 견적은 아닙니다. 가격은 국가, 가용성, 그리고 중고 부품 구매 여부에 따라 달라집니다. 또한 디스플레이와 주변 기기는 제외되었습니다.

1. 이미 소유하고 있는 컴퓨터 사용: 약 $0 ~ $200

이것이 대부분의 사람들이 시작해야 할 지점입니다.

• 16 GB의 시스템 RAM이면 작업이 가능하며, 32 GB가 더 쾌적합니다.
• 모델 파일을 저장할 충분한 공간이 있는 SSD를 사용하세요. 몇 개의 양자화 (quantized) 모델만으로도 수십 기가바이트를 소비할 수 있습니다.
• Docker 또는 네이티브 지침을 통해 Odysseus를 설치하세요.
• 먼저 클라우드 API를 연결하거나, Ollama 또는 llama.cpp를 통해 작은 로컬 모델을 실행하세요.

더 큰 SSD나 더 많은 RAM만 필요할 수도 있습니다. 이 설정은 비싼 GPU를 구매하기 전에 소프트웨어를 학습할 수 있게 해줍니다. 또한 클라우드의 품질과 로컬의 개인정보 보호 (privacy) 사이의 공정한 비교를 제공합니다.

2. 실용적인 로컬 AI PC: 약 $1,100 ~ $1,700

새로 빌드한다면, 저는 메모리가 적은 더 빠른 게이밍 카드보다 16 GB의 VRAM을 가진 GPU를 우선시할 것입니다.

• 최신 8코어 이상의 데스크톱 CPU
• 16 GB의 VRAM을 가진 GPU
• 32 GB의 시스템 RAM, 예산이 허락한다면 64 GB 권장
• 1 TB 시스템 SSD 및 2 TB 모델 드라이브
• GPU 용량에 맞춘 고품질 파워 서플라이 (power supply)

이것은 7B에서 14B 모델을 위한 합리적인 단계이며, 양자화 (quantization) 및 컨텍스트 (context)에 따라 그 이상의 모델을 실험할 여지도 있습니다. 또한 개발, 창작 작업 및 게임을 처리할 수 있는 일반적인 데스크톱이기도 합니다.

3. 본격적인 엔지니어용 워크스테이션: 약 $2,000 ~ $4,000+

여기서 가장 큰 업그레이드는 24GB 이상의 빠른 모델 메모리입니다.

• 24GB 또는 32GB의 VRAM을 갖춘 GPU, 또는 실질적으로 더 많은 메모리를 가진 통합 메모리 (unified-memory) 시스템
• 64GB에서 128GB 사이의 시스템 메모리 또는 통합 메모리
• 최소 2TB의 빠른 NVMe 스토리지 (4TB가 사용하기 더 편리함)
• 지속적인 추론 (inference)에 적합한 강력한 냉각 시스템 및 전원 공급 장치
• 다른 장치들이 모델 서버로 사용할 경우를 대비한 유선 네트워킹

이 단계에서는 32B급 양자화 (quantized) 모델을 훨씬 더 실용적으로 사용할 수 있으며, 컨텍스트 (context), 모델 비교, 그리고 에이전트 (agent) 워크로드를 위한 더 많은 여유 공간을 확보할 수 있습니다. 그렇다고 해서 모든 거대 모델이 잘 돌아간다는 것을 보장하지는 않습니다. 메모리에 들어가는 모델과 사용자가 즐길 수 있는 속도로 응답하는 모델은 서로 다른 문제입니다.

특수 목적용 단계에서는 NVIDIA DGX Spark와 같은 제품들이 일반적인 PC의 유연성을 포기하는 대신 AI 개발을 위해 설계된 대규모 통합 메모리 풀을 제공합니다. 흥미로운 제품들이지만, 기존 하드웨어에서 Odysseus를 아직 시도해보지 않은 사람에게 기본 권장 사항은 아닙니다.

Windows, Linux, 또는 macOS?

Windows

Odysseus는 네이티브 PowerShell 런처를 제공하며 Python 3.11 이상을 요구합니다. 공식 가이드에 따르면 Windows에서 로컬 모델을 서빙하기 위한 가장 쉬운 방법은 Ollama를 사용하는 것입니다. Ollama가 실행 중인 상태에서 Odysseus가 http://localhost:11434/v1을 가리키도록 설정할 수 있습니다.

NVIDIA GPU에서 vLLM 또는 SGLang을 사용하는 경우, Linux 또는 WSL2가 더 자연스러운 환경입니다. Windows 사용자들은 Docker GPU 패스스루 (passthrough)에도 주의를 기울여야 합니다. Odysseus 문서에는 WSL2 환경에서 snap으로 설치된 Docker에 대한 특정 경고가 포함되어 있는데, 이는 snap의 격리 (confinement) 기능이 WSL GPU 라이브러리에 대한 접근을 차단할 수 있기 때문입니다.

Linux

Linux는 로컬 추론 서버와 GPU 툴링 (tooling)에 대해 가장 폭넓은 선택지를 제공합니다. Docker는 이 프로젝트에서 권장하는 빠른 시작 (quick start) 방법입니다. NVIDIA 사용자는 NVIDIA Container Toolkit과 Docker 패스스루가 작동하는 것을 확인한 후 프로젝트의 GPU 오버레이 (overlay)를 추가할 수 있습니다. AMD 사용자를 위해서는 별도의 ROCm 오버레이와 진단 스크립트가 제공됩니다.

Apple Silicon

M-series Mac은 CPU와 GPU가 하나의 메모리 풀을 공유하기 때문에 매력적일 수 있습니다. 하지만 Odysseus와 관련하여 한 가지 중요한 주의 사항이 있습니다. macOS의 Docker는 Metal GPU를 컨테이너에 노출할 수 없습니다. 따라서 GPU 가속을 통한 로컬 서빙 (serving)을 위해서는 ./start-macos.sh를 통해 Odysseus를 네이티브 (native)로 실행하는 것을 권장합니다.

macOS에서는 llama.cpp 또는 Ollama가 Metal을 사용할 수 있습니다. Odysseus 문서에 따르면 vLLM과 SGLang은 CUDA 또는 ROCm을 대상으로 하기 때문에 macOS에서 실행되지 않습니다. 제품 페이지의 메모리 용량 수치만 보고 구매하지 말고, 사용할 소프트웨어를 기준으로 구매하십시오.

소프트웨어 스택 (The software stack)

실용적인 Odysseus 설정에는 모든 로컬 AI 도구가 한꺼번에 필요하지는 않습니다.

• Ollama는 많은 Windows, macOS, Linux 사용자들에게 가장 쉬운 시작점입니다. 모델 다운로드와 서빙 (serving)을 간단한 로컬 API 뒤로 패키징합니다.
• llama.cpp는 CPU, CUDA, Metal 및 기타 백엔드 (backend) 전반에서 GGUF 모델을 위한 유연한 런타임 (runtime)입니다.
• vLLM은 특히 지원되는 Linux GPU 시스템에서 높은 처리량 (high-throughput) 서빙을 목표로 합니다.
• Odysseus는 OpenAI 호환 엔드포인트 (endpoint) 및 모델 API에도 연결할 수 있으므로, 로컬 모델과 클라우드 모델이 하나의 워크스페이스 (workspace)에서 공존할 수 있습니다.

제가 제안하는 순서는 간단합니다. Odysseus를 설치하고, 작동하는 모델 하나를 연결한 뒤, 채팅 및 문서 워크플로 (workflow)를 테스트하십시오. 그 이후에 에이전트 (agent), 셸 (shell) 액세스, 원격 서버 또는 여러 추론 엔진 (inference engine)을 추가하십시오.

셀프 호스팅 (self-hosted)과 자동화된 프라이버시를 혼동하지 마세요

로컬 모델은 프롬프트 (prompt)와 문서를 모델 제공업체의 서버에 보내지 않을 수 있지만, 프라이버시는 전체 설정에 달려 있습니다. Odysseus는 클라우드 API, 이메일, 웹 검색, 셸 도구 및 원격 서비스에 연결할 수 있습니다. 이러한 서비스 중 어느 곳으로든 전송되는 데이터는 대시보드에 표시된

프로젝트 자체 보안 가이드라인에서는 인증 (authentication)을 활성화된 상태로 유지하고, Git에 개인 데이터를 넣는 것을 피하며, 원시 모델 (raw model) 또는 서비스 포트를 공개적으로 노출하지 말라고 명시하고 있습니다. Docker는 기본적으로 웹 인터페이스와 번들링된 서비스들을 127.0.0.1에 바인딩 (bind)합니다. 바인딩 주소를 0.0.0.0으로 변경하면 워크스페이스를 네트워크상에서 사용할 수 있지만, 이는 공격 표면 (attack surface)을 증가시킵니다.

문서에서는 원격 접속을 위해 인증을 켠 상태로 Tailscale과 같은 신뢰할 수 있는 LAN 또는 VPN을 사용할 것을 권장합니다. 특히 포트를 공용 인터넷에 직접 노출하는 것에 대해 경고하고 있습니다. 선택 사항인 Docker 소켓 통합 (Docker socket integration) 또한 주의가 필요합니다. Docker 데몬 (daemon)에 대한 접근 권한은 호스트에 대한 광범위한 제어권을 부여할 수 있기 때문입니다.

에이전트 (Agents)는 이러한 우려 사항을 더욱 심각하게 만듭니다. 만약 모델이 파일을 읽거나, 셸 명령 (shell commands)을 실행하거나, 이메일을 다룰 수 있다면, 제한된 계정을 사용하고, 백업을 유지하며, 권한을 검토하십시오. 그리고 실험적인 모델에게는 손실을 감당할 수 없는 어떤 것에도 접근 권한을 주지 마십시오.

Docker로 Odysseus를 설치하는 방법

공식 프로젝트에서는 빠른 시작을 위해 Docker를 권장합니다:

git clone https://github.com/odysseus-dev/odysseus.git
cd odysseus
cp .env.example .env
...