이 기사는 원래 aifoss.dev에 게시되었습니다.

대부분의 셀프 호스팅 (Self-hosted) 코딩 도구들은 GPU 요구 사항을 개발자 개인의 머신에 부과합니다. Tabby는 이 모델을 뒤집습니다. 네트워크에 하나의 GPU 서버를 두고, 팀의 모든 개발자가 여기에 연결하는 방식입니다. 이러한 단일한 아키텍처 (Architectural) 결정은 Tabby의 강점과 마찰 지점(Friction points)을 모두 설명해 줍니다.

Tabby (TabbyML 제작)는 Rust로 구축된 셀프 호스팅 AI 코딩 어시스턴트이며, Apache 2.0 라이선스 하에 제공됩니다. github.com/TabbyML/tabby에서 이용 가능하며, 2026년 중반 기준으로 약 33,000개의 GitHub 스타를 보유하고 있습니다. 최신 안정 버전은 v0.32.0 (2026년 1월 25일)이며, Mistral Embedding API 지원, 범용 OAuth, 그리고 멀티 브랜치 리포지토리 인덱싱 (Multi-branch repository indexing) 기능이 추가되었습니다.

이 리뷰에서는 무엇이 잘 작동하는지, 무엇이 그렇지 않은지, 그리고 실제로 누가 이를 실행해야 하는지를 다룹니다.

Tabby란 무엇인가 (그리고 무엇이 아닌가)

Tabby는 코드 완성 (Code completion) 서버입니다. 서버 측에서 추론 (Inference)을 실행하며, 사용자가 타이핑하는 동안 IDE 플러그인이 실시간으로 호출할 수 있는 API를 노출합니다. 클라이언트에서의 경험은 GitHub Copilot과 유사합니다. 인라인 고스트 텍스트 (Inline ghost-text) 완성 기능과 함께 채팅 패널을 사용할 수 있습니다.

Tabby가 아닌 것: 에이전틱 (Agentic) 코딩 도구입니다. Tabby는 코드베이스 전체를 읽거나, 셸 명령 (Shell commands)을 생성하거나, 스스로 여러 파일에 걸친 기능을 작성하지 않습니다. 만약 그런 기능이 필요하다면 대신 Aider나 Cline을 살펴보십시오. Tabby의 역할은 귀하의 인프라 (Infrastructure)에서 완전히 실행되는, 빠르고 문맥을 인식하는 (Context-aware) 자동 완성 레이어가 되는 것입니다.

서버 측 아키텍처는 구체적인 시사점을 가집니다. 10명의 개발자 팀이 각자 GPU를 가질 필요 없이 하나의 RTX 3090을 공유할 수 있다는 점입니다. 코드가 외부 API에 닿을 수 없는 조직(금융, 의료, 방위 산업체 등)의 경우, 이는 경제성을 크게 변화시킵니다.

설치 (Installation)

Docker가 권장되는 경로이며, 진정으로 고통 없이 설치할 수 있습니다:

# NVIDIA GPU (CUDA)
docker run -it \
  --gpus all \
...

시작 후, http://localhost:8080에서 관리자 대시보드 (admin dashboard)가 열립니다. 첫 실행 설정은 5분도 채 걸리지 않습니다. 관리자 계정을 생성하고, 각 개발자를 위한 API 토큰을 생성하며, 모델을 구성하면 됩니다. 관리자 대시보드는 깔끔합니다. 일반적인 엔터프라이즈 소프트웨어와는 다릅니다.

팀 단위의 프로덕션 배포를 위해, Tabby는 RunPod 및 기타 GPU 클라우드 호스트를 지원합니다. 이는 팀 내에 여분의 GPU 서버가 없는 경우 실용적인 선택지입니다.

모델 선택 및 하드웨어 요구 사항 (Model Selection and Hardware Requirements)

이 부분은 Tabby를 사용하면서 가장 많은 사전 의사결정이 필요한 지점입니다. 모델의 품질과 하드웨어 비용은 함께 증가하며, 공짜 점심은 없습니다.

3B 티어는 팀을 위한 실용적인 최적점 (sweet spot)입니다. StarCoder2-3B는 4 GB VRAM에 적합하며, RTX 3080에서 초당 80개 이상의 토큰 (tokens/second) 속도로 실행됩니다. 또한 사소한 보일러플레이트 (boilerplate) 이상의 작업에 대해서는 1B 모델보다 눈에 띄게 더 나은 완성도를 보여줍니다. 워밍업된 3B 모델의 첫 토큰 지연 시간 (First-token latency)은 200ms 미만으로, 몰입 상태 (flow state)를 방해하지 않을 만큼 충분히 빠릅니다.

8 GB의 VRAM 여유가 있다면 DeepSeek-Coder-6.7B로 품질을 업그레이드할 가치가 있습니다. 이 모델은 Python, Java, C++ 전반에 걸친 벤치마크 평가에서 CodeLlama-7B를 일관되게 능가합니다. 팀이 주로 Python을 사용한다면 DeepSeek-Coder가 올바른 선택입니다.

Metal을 실행하는 Apple Silicon 사용자들도 합리적인 성능을 얻을 수 있습니다. M2 Pro에서 실행되는 StarCoder2-3B는 대략 초당 60–80 토큰의 속도를 제공합니다. 일상적인 사용에 충분한 수준입니다.

CPU 전용 (CPU-only) 모드도 작동은 하지만 간신히 돌아가는 수준입니다. CPU에서 실행되는 StarCoder2-3B는 초당 8–15 토큰의 속도를 보여줍니다. 이는 20개 토큰의 완성형을 얻기 위해 3초를 기다려야 한다는 의미이며, 이는 사실상 자동 완성 (autocomplete)의 가치 제안을 완전히 무너뜨립니다. 만약 GPU가 없다면, 대신 원격 API 엔드포인트 (remote API endpoint)를 사용하는 Continue.dev를 사용하세요. 실제 워크플로우를 위해 CPU에서 Tabby를 실행하려고 시도하지 마십시오.

Tabby는 CUDA 환경에서 기본적으로 int8 정밀도 (int8 precision)를 사용하며, GPU 연산 능력 (Compute Capability) 7.0 이상을 요구합니다 (RTX 20 시리즈 및 최신 모델, 또는 ROCm을 통한 동등한 AMD 모델). Turing 및 그 이전 세대의 카드 (GTX 10xx)는 지원은 되지만 성능이 저하되는 경로에 해당합니다. 연산 능력 (Compute Capability) 6.1에서도 작동은 하지만 일부 정밀도 최적화 (precision optimizations)를 잃게 됩니다.

IDE 통합 (IDE Integration)

Tabby는 공식 플러그인을 통해 VS Code, JetBrains IDE, Vim, Neovim, Emacs를 지원합니다. VS Code 확장 프로그램이 가장 완성도가 높습니다. 설치 후 서버 URL과 API 토큰을 붙여넣기만 하면 1분 이내에 코드 완성 (completions)이 나타나기 시작합니다.

JetBrains 플러그인은 IntelliJ IDEA, PyCharm, GoLand, WebStorm에서 원활하게 작동합니다. 설정 방법은 VS Code와 동일합니다. Vim 및 Neovim 플러그인은 기능적이지만 매우 소박합니다 (spartan). 해당 생태계에 있다면 설정에 더 많은 시간을 소비할 것을 예상해야 합니다.

한 가지 실질적인 참고 사항은, IDE 플러그인이 키 입력마다 요청을 배치 (batch) 처리하지 않는다는 점입니다. 대신 설정 가능한 디바운스 간격 (debounce interval, 타이핑을 멈춘 후 기본값 150ms)에 따라 완성 요청을 보냅니다. 서버와의 LAN 연결 상태에서는 이 차이가 느껴지지 않습니다. VPN을 사용할 경우 수백 밀리초(ms) 정도의 지연이 추가됩니다. 그럼에도 인터넷 속도가 느린 날의 GitHub Copilot보다는 여전히 빠릅니다.

팀 기능 및 엔터프라이즈 역량 (Team Features and Enterprise Capabilities)

이 지점이 Tabby가 Continue.dev와 같은 도구들과 진정으로 차별화되는 부분입니다. 무료 셀프 호스팅 (self-hosted) 버전에는 대부분의 SaaS 코딩 어시스턴트들이 유료로 제공하는 기능들이 포함되어 있습니다:

• GitHub, GitLab 및 LDAP를 통한 SSO (Single Sign-On) — 개발자 계정이 기존의 ID 제공업체(identity provider)를 통해 인증됩니다. 별도의 자격 증명 관리가 필요 없습니다.
• 사용량 분석 (Usage analytics) — 사용자별 코드 완성 수락률, 활성 모델 사용량, API 호출량 등을 제공합니다. 회의적인 엔지니어링 매니저들에게 ROI(투자 대비 효과)를 증명하는 데 유용합니다.
• 팀 관리 (Team management) — 사용자 생성, 역할 설정, API 토큰 관리를 위한 관리자 대시보드를 제공합니다.
• 코드베이스 인덱싱 (Codebase indexing) — Tabby는 Git 저장소(v0.32.0부터 멀티 브랜치 포함)와 GitLab Merge Request를 인덱싱하여 완성 컨텍스트(completion context)를 개선할 수 있습니다. 이는 Continue.dev의 "코드베이스 컨텍스트"와 동일한 기능이지만, 중앙 집중식으로 제공됩니다.
• 답변 엔진 (Answer Engine) — 인덱싱된 코드베이스 상단에 구축된 공유 가능한 Q&A 레이어입니다. "기능을 작성해줘"가 아니라 "이 저장소에 대해 질문해줘"라고 생각하면 됩니다.

엔터프라이즈 라이선스(enterprise license)는 커스텀 브랜딩과 몇 가지 추가 관리 제어 기능을 제공합니다. 대부분의 셀프 호스팅 팀에게는 무료 티어만으로도 필요한 모든 기능을 충족합니다.

이를 Continue.dev와 비교해 보겠습니다. Continue는 개별 개발자용 도구로서는 훌륭하지만, 중앙 서버 모델이 없습니다. 모든 개발자가 각자의 모델 연결을 직접 관리해야 합니다. 공유 GPU를 사용하는 팀의 경우, Tabby의 중앙 집중식 접근 방식이 운영 오버헤드(operational overhead)를 상당히 줄여줍니다.

완성 품질: 솔직한 평가

Tabby의 완성 품질은 그 뒤에 배치한 모델의 성능과 동일합니다. 이는 당연한 말이지만, 여기서 중요한 이유는 "기본" 권장 모델인 StarCoder2-3B가 복잡한 로직에 대해 GPT-4o나 Claude Sonnet보다 눈에 띄게 약한 완성 결과물을 생성하기 때문입니다.

보일러플레이트(boilerplate), 함수 시그니처(function signatures), 임포트 문(import statements), 그리고 알려진 코드베이스 내에서의 패턴 완성의 경우 StarCoder2-3B는 경쟁력이 있습니다. Python, TypeScript, Go, Rust를 잘 처리합니다. 하지만 알고리즘 복잡성, 다단계 추론, 또는 익숙하지 않은 API의 경우, 3B 모델은 GitHub Copilot이 겪지 않는 어려움을 겪습니다.

DeepSeek-Coder-6.7B로 한 단계 올라서면, 해당 모델이 학습한 언어들에 대해서는 그러한 격차의 대부분이 해소됩니다. HumanEval 점수가 36%(StarCoder2-3B)에서 52%(DeepSeek-Coder-6.7B)로 도약하는 것은