지난 몇 주 동안 로컬 모델에 대한 공정한 기회를 제공해 보았습니다. 비업무 기술 문의에는 로컬 모델을 사용하도록 스스로를 강요했습니다. 제 직장에서 Claude Code 를 사용하고 있으므로 이를 비교 기준으로 삼고 있습니다.

Qwen 27B 와 Gemma 4 31B 를 사용했는데, 이들은 수백 개의 LLM 중 최상위 모델로 간주됩니다. 또한 여러 에이전트 앱도 시도해 보았습니다. 저의 결론은 생산성 손실이 이 장점에 비해不值得하다는 것입니다.

저의 주요 문제점을 간략히 개요하겠습니다.

나쁜 의사 결정 및 도구 호출 (Shitty decision-making and tool-calls)

이것은 큰 문제입니다. Claude 는 대부분의 경우 제 마음을 읽는 것처럼 보이지만, Qwen 27B 는 Carlo Ancelotti 의 눈썹을 더 자주 주게 합니다. LLM 은 제가 진행하는 방식대로 진행되지 않습니다.

저는 주로 로컬 LLM 을 OS/Docker 작업에 사용했습니다. 이것이 코딩보다 훨씬 어렵거나 다른 것인가요?

예를 들어, "Github 저장소를 여기에 드립니다. Docker 화해 주세요"와 같은 작업의 경우, 어떤 멍청이도 README 의 지시를 따르고 실행할 것이라고 기대합니다. (수정: 전체 프롬프트는 여기입니다: https://reddit.com/r/LocalLLaMA/comments/1sxqa2c/im_done_with_using_local_llms_for_coding/oiowcxe/ )

'docker build' 가 기본 시간 제한보다 오래 걸려 관련 없는 후속 작업을 보내는 경우 (작업이 실패한 것처럼) 대신 여전히 실행 중인지 확인하는 경우와 같은 문제가 있습니다. Qwen 이 호스트 (또한 Ubuntu) 에서 설치 명령어를 반복하여 어떤 일이 일어나는지 보려고 했습니다. 그것은 마치