「로컬 LLM은 공짜로 돌아간다」라는 주장을 가끔 봅니다.

확실히 API 과금은 발생하지 않습니다. 하지만 24시간 내내 돌아가는 GPU는 묵묵히 전기 요금을 빨아들입니다. Claude Code Max의 월 $200 (약 ¥30,000)와 비교했을 때, 정말로 로컬이 더 저렴할까요? 저는 이것을 실제로 측정해 보기 전까지 확신할 수 없었습니다.

이 기사에서는 RTX 4070 + Ollama로 24시간 연속 추론을 돌리고, SwitchBot 플러그 미니(Plug Mini)로 전력을 1분 간격으로 기록한 결과를 공개합니다. 전기 요금 단가는 간사이 전력, 도쿄 전력, 홋카이도 전력의 3개 지역으로 계산하며, 가동률 10%/30%/50%/100%의 4가지 시나리오로 Claude Code Max와의 크로스오버 포인트(Crossover Point)를 제시합니다.

결론부터 말씀드리면, 전기 요금만 보면 로컬의 압승이었습니다. 하지만 「동등한 처리 품질을 얻기 위한 실질 비용」이라는 관점에서 보면, 승자가 역전되는 시나리오가 존재합니다.

먼저 실험의 전제를 명시합니다. 나중에 숫자만 발췌되어 유리한 결론으로 왜곡되는 것을 방지하기 위해 설계부터 공개합니다.

• GPU: NVIDIA RTX 4070 (TDP 200W, VRAM 12GB)
• CPU: Ryzen 7 7700 (TDP 65W)
• RAM: DDR5-5600 32GB
• 전원: 750W Platinum

와트 모니터: SwitchBot 플러그 미니 (1분 간격 로그)

• OS: Ubuntu 24.04 LTS
• Ollama: 0.5.4
• 모델: Qwen3-Coder-14B (Q4_K_M), Gemma-3-12B (Q4_K_M), Phi-4-14B (Q4_K_M)

24시간 연속으로 다음 루프를 실행합니다.

import ollama
import time
prompts = load_prompts("eval_set_500.jsonl") # 500건의 실제 코드 생성 태스크
...

500건을 1세트로 하여 24시간 루프를 돌립니다. 총 토큰량과 런타임 전력을 동시에 기록합니다.

24시간 로그에서 얻은 전력 프로파일입니다.

24시간 평균 소비 전력은 약 232W였습니다. GPU 공칭 TDP 200W에 CPU 35W 정도가 더해져, 시스템 전체로는 200W를 넘습니다.

24시간 총 소비 전력:

232W × 24h = 5.568 kWh/일

월 환산 (30일):

5.568 × 30 = 167.04 kWh/월

3개 지역의 2026년 5월 시점 단가로 계산합니다.

가장 비싼 홋카이도 전력에서도 24시간 100% 가동 시 월 ¥7,590입니다. Claude Code Max 월 ¥30,000의 4분의 1 이하 수준이었습니다.

이것은 「PC 전체」의 소비 전력입니다. GPU 단독 TDP 200W에 CPU, 메모리, 팬, 전원 변환 손실을 포함한 홀 시스템(Whole System) 값입니다. 「200W × 24h로 계산하면 된다」는 단순화는 GPU 전용기라 할지라도 2할 정도의 오차가 발생합니다.

「24시간 100% 가동」하는 것은 비현실적입니다. 실제 이용 시나리오에 가까운 4가지 시나리오로 다시 살펴봅니다.

가동률 10%에서도 Max의 30분의 1 ~ 50분의 1 수준의 전기 요금입니다.

「공짜」가 아니라는 점은 확실합니다. 하지만 Max의 월 정액에 도달하려면, 월 3~4대의 RTX 4070을 24시간 가동해야 합니다. 일반적인 개인 개발자에게는 일어나지 않을 시나리오입니다.

전기 요금만 보면 로컬의 압승입니다.

하지만 저는 이것을 공개하기 전에 **「동등한 품질의 처리를 얻기 위한 실질 비용」**이라는 관점에서 재검토했습니다. 엔지니어를 위한 비용 비교에서 이 부분을 빠뜨리는 것은 공정하지 않기 때문입니다.

Claude Code Max를 월 ¥30,000에 구독하여 얻는 것은 Claude Sonnet 4.6 (또는 Opus 4.7)의 출력 품질과 빠른 응답 속도입니다. 반면, RTX 4070 로컬 LLM을 통해 얻는 것은 Qwen3-Coder-14B 등의 출력 품질과 RTX 4070 성능 기반의 추론 속도입니다.

두 가지는 동등하지 않습니다.

500건의 실제 코드 생성 태스크를 대상으로 각각의 완료 시간을 비교했습니다.

Claude Sonnet 4.6이 약 3.7배 더 빠릅니다.

엔지니어의 평균 시급을 ¥4,000 (연봉 ¥720만 가정)이라고 가정하겠습니다.

로컬에서의 대기 시간이 1태스크당 55초 (= 75 - 20초) 더 길다고 할 때, 월 100태스크를 처리한다면:

55초 × 100태스크 = 5,500초 = 약 1.5시간
1.5시간 × ¥4,000/시 = 월 ¥6,000의 기회비용 발생

월 100태스크는 제 개인적인 체감으로는 적은 편입니다. 일상적으로 AI에 의존하는 엔지니어라면 월 500태스크는 가볍게 넘깁니다. 500태스크라면 월 ¥30,000 상당의 기회비용이 발생합니다.

여기서 전기 요금 (간사이 전력 ¥3,787) + 기회비용 (¥30,000) = ¥33,787이 되어 Max의 비용을 상회합니다.

여기에 코드 생성 품질의 차이까지 더하면 이야기는 한 단계 더 달라집니다.

로컬 LLM이 Claude Sonnet 4.6의 코드 품질에 도달하지 못하는 태스크가 일정 비율로 발생합니다. "Claude라면 한 번에 통과했을 코드가, 로컬에서는 디버깅을 위해 여러 번 왕복해야 하는" 케이스입니다.

제 체감으로는, Claude Code Max의 경우 한 번에 통과할 태스크가 Qwen3-Coder-14B에서는 23회의 재생성 (Regeneration)이 필요할 때가 있습니다. 재생성은 35배의 시간과 토큰 소비를 의미합니다.

이는 "Qwen3-Coder가 나쁘다"는 뜻이 아닙니다. 14B 파라미터로 Claude Sonnet 4.6 (추정 수조 개의 파라미터)과 경쟁하고 있다는 사실 자체가 경이로운 것입니다. "동등함"을 요구한다면, 체급(Ring)이 다르다는 것을 인식해야 한다는 의미입니다.

지금까지의 계산을 정리하면, 로컬 vs Max의 비용 역전은 다음 조건에서 일어납니다.

월 500태스크 전후가 크로스오버 포인트 (Crossover point)입니다.

• 월 100태스크 정도의 가벼운 이용 → 로컬이 경제적으로 압승
• 월 500태스크 이상의 헤비한 이용 → Claude Code Max가 경제적으로도 역전
• 그 미만의 중간 영역은 "품질에 대한 허용도"에 따라 판단이 갈림

저 자신은 Claude Code Max 구독을 유지하면서, 로컬 LLM은 "API로 보내고 싶지 않은 기밀 데이터 처리"와 "야간 배치 (Batch) 작업"으로 한정하여 구분해서 사용하고 있습니다.

솔직히 말하면, 측정하기 전에는 "로컬 환경을 구축했으니 Max를 해지해도 되겠지"라고 조금 생각했습니다. 하지만 숫자를 나열해 본 결과, 월 500태스크를 넘기면 쉽게 역전된다는 것이 보여 해지 계획을 철회했습니다. RTX 4070 구매비 (약 ¥100,000)를 전기 요금으로 회수하려던 계획은 처음부터 성립되지 않았던 것입니다.

Max가 아니라 Anthropic API 종량제 (Sonnet 4.6: input $3/M tokens, output $15/M tokens)와 비교하는 경우도 있습니다.

월 500태스크 (입력 500토큰, 출력 1500토큰 평균)의 경우:

입력: 500 × 500 = 250,000 tokens → $0.75 (≒ ¥112)
출력: 500 × 1500 = 750,000 tokens → $11.25 (≒ ¥1,687)
합계: 약 ¥1,799/월

월 500태스크라면 API 종량제가 압도적으로 저렴합니다 (¥1,799 vs Max ¥30,000).

Max가 경제적으로 의미를 갖는 것은, 월 수천 태스크 이상이어서 API 종량제 (Pay-as-you-go) 비용이 ¥30,000를 초과하는 유스케이스뿐이라고 할 수 있습니다.

Anthropic Cookbook의 요금 계산 도구 (api.anthropic.com/v1/messages/count_tokens)를 사용하면, 자신의 실제 프롬프트에 대한 정확한 토큰 (Token) 소비량을 알 수 있습니다. 플랜을 선택하기 전에 한 달 동안만 종량제로 측정해 보면, 적절한 플랜이 보일 것입니다.

전기 요금 + 기회비용의 총액으로 보면 미묘한 영역도 있지만, 로컬 LLM (Local LLM)이 거의 무조건적으로 승리하는 시나리오도 있습니다. 지금까지는 '로컬이 불리한' 듯한 흐름이었지만, 확실히 이길 수 있는 곳은 있습니다.

기밀 데이터 처리: 고객의 개인정보, 사내 코드, 미공개 문서를 외부 API로 보낼 수 없는 경우 -
대량 배치 처리 (Batch Processing): 수백만 건의 텍스트 분류 및 요약을 오프라인으로 처리하는 경우 -
오프라인 환경: 기내, 지방 출장, 서버실 내부 등 -
학습 및 실험: 모델의 동작을 제어하여 재현 가능한 검증을 하고 싶은 경우 -
API 중단 리스크 헤지 (Hedge): 클라우드 서비스의 장애 또는 과금 변경에 대한 보험

로컬 LLM은 공짜가 아닙니다. 월 ¥3,000~¥8,000의 전기 요금이 발생합니다. 하지만 Claude Code Max ¥30,000/월과의 비교에서는 월 500 태스크가 분수령이 됩니다.

이 수치는 자신의 유스케이스를 직접 측정해 본 뒤 판단해야 하는 것입니다. 저 자신도 측정하기 전에는 "로컬이라면 전부 공짜가 아닐까"라며 낙관했습니다. 실제로 SwitchBot 플러그 미니의 로그를 나열해 보고 나서야 비로소 자신의 워크플로우 (Workflow) 비용 구조가 보였습니다.

참고로, 저의 로컬 LLM 검증 파이프라인 전체는 Claude Code 완전 가이드에서도 자세히 소개하고 있습니다. Claude Code와 로컬 모델의 하이브리드 운영, API 키 관리, 검증 스크립트 템플릿까지 담겨 있습니다.

• RTX 4070 + Ollama를 24시간 연속 가동하면, PC 전체 평균 232W (월 167kWh)
• 간사이 전력 단가로 월 ¥3,787, 도쿄 전력 단가로 월 ¥6,765, 홋카이도 전력 단가로 월 ¥7,590
• Claude Code Max ¥30,000/월과 비교하면, 전기 요금만 따졌을 때 로컬의 압승
• "공짜"가 아니라는 점 (확실히 매달 수천 엔이 든다는 점)은 사실
• 동등한 품질의 출력을 얻기 위한 실제 비용 (전기 요금 + 기회비용)으로 보면, 월 500 태스크 이상부터 Max가 역전
• 기밀 데이터, 대량 배치, 오프라인 환경에서는 로컬이 거의 무조건적으로 승리

"자신의 수치를 측정하라"가 결론입니다. 전기 요금은 5분이면 알 수 있습니다. 크로스오버 포인트 (Crossover Point)는 한 달간 실측하면 알 수 있습니다. SwitchBot 플러그 미니는 3,000엔 미만으로, 측정 비용은 이미 뽑았습니다.

재미있게 가봅시다.