Apple Silicon Mac을 사용 중이라면 로컬 서버를 가리키도록 설정하여 Claude Code를 완전히 로컬에서(그리고 무료로) 실행할 수 있습니다. 방법은 다음과 같습니다:

설정 (2분)
brew install mlx-serve mlx-serve run gemma-4-e4b-it # 다운로드 + 서버 시작
그 다음 다음과 같이 Claude Code를 실행하세요:
ANTHROPIC_BASE_URL=http://localhost:11434 \ ANTHROPIC_API_KEY=local \ ANTHROPIC_DEFAULT_MODEL=mlx-serve \ claude

끝입니다. Claude Code의 스트리밍 (streaming), 도구 호출 (tool calls), 사고 블록 (thinking blocks), 멀티 턴 (multi-turn) 기능이 모두 Anthropic Messages API를 통해 로컬 모델에서 작동합니다.

로컬에서 잘 작동하는 모델

• Gemma 4 E4B 4-bit (권장 시작점, M4 Max에서 약 30 tok/s 디코딩)
• Qwen 3.6 27B 4-bit (네이티브 MTP 스펙 디코딩 지원, 약 32 tok/s, 코딩 작업 시 1.43배 더 빠름)
• 더 빠른 반복 사이클을 위한 Qwen 3.5 4B/8B

코딩 작업에 어떤 모델이 가장 적합한지에 대한 전체 가이드 + 팁: https://mlxserve.com/claude-code-local/
서버는 mlx-serve이며, MIT 라이선스, Python 불필요, 단일 바이너리로 구성됩니다. brew install mlx-serve
GitHub: https://github.com/ddalcu/mlx-serve
submitted by /u/FootballSuperb664
[link] [comments]