안녕하세요 모두! 최근 제가 Gemma 4 가 Qwen 3.5 를 대체하여 저에게 semantic routing(의미 기반 라우팅) 과 다양한 코딩 작업을 수행하는 데 사용되었고, 결국 그것이 제 새로운 일용 모델(daily driver) 이 되었다는 글을 작성했습니다.

다음 날 Qwen 3.6 이 출시되어 이번 주 동안 많이 사용해 보았습니다. 이것이 저의 최종 비교 결과입니다:

Gemma 4 E4B 는 라우팅 및 기타 분류 작업에서 Qwen3.5 4B 보다 우수하며, 영어 이해 능력은 더 좋을 것 같지만 코딩 같은 초고도 기술적 지능 (super technical smarts) 은 Qwen 이 더 뛰어날 수 있습니다.

Qwen 3.6 35B 와 27B 는 Gemma 4 26B 와 31B(둘 다) 보다 우수하며, 이는 다시 Qwen 3.5 35B 와 27B 보다 우수합니다.

구체적으로 저의 경량/빠른 모델은 다음과 같이 변경되었습니다:

Qwen 3.5 35B → Gemma 4 26B → Qwen 3.6 35B

Gemma 4 26B 는 Qwen 3.5 27B(밀집형, dense) 의 사용도 일시적으로 대체하여, 3.6 이 출시될 때까지 사용되었고 (이제 두 모델을 상호 교환적으로 사용합니다).

현재 제가 사용하는 유일한 Gemma 모델은 semantic routing 을 위한 E4B 입니다.

이제 새로운 돌파구입니다:

최근 MiniMax M2.7 MXFP4 가중치를 다운로드하여 Qwen 3.5 122B Q8 과 Qwen3.5 397B Q2 를 대체하는 데 사용했습니다. 이는 완벽한 중간 지점이며, 아무런 문제도 발생하지 않았습니다.

저는 Claude Code Pro 구독에서 벗어나려 노력 중입니다. 보통 모든 프로젝트에 Sonnet 4.7 을 사용하며 (Opus 는 사용량을 소모하므로 신경 쓰지 않음), Haiku 는 매우 쉬운 작업이 아니면 거의 사용하지 않습니다.

오늘 아침 OpenCode 를 설치하고 llama-swap 서버를 설정하여 Qwen 3.6 35B 와 MiniMax M2.7(단일화 메모리 트릭인 GGML 을 사용) 간에 전환하도록 했습니다. 결과가 AMAZING 하며, 더 많은 테스트를 진행할 예정입니다. 처음에는 조금씩 손잡이 (handhold) 해야 하지만, 훌륭한 결과를 제공하고 있습니다.

아직 에이전트 (agents) 를 설정하지는 않았으며, 단순히 모델 간 수동으로 전환만 해보았지만, Qwen 3.6 35B 는 계획 모드 (planning mode) 에 매우 훌륭하고, MiniMax M2.7 이 기초 작업을 모두 수행한 후 다시 Qwen 3.6 35B 로 편집을 하는 방식이 효과적이었습니다.

저는 Qwen 3.6 30B 의 Q8_0 unsloth 양자화 (quant) 를 사용 중이며, OpenCode 를 통해 도구나 명령어 문제 (tool/command issues) 가 전혀 발생하지 않았습니다. MiniMax M2.7 은 제가 부드럽게 스스로 할 수 있는 힘을 가지고 있음을 상기시켜주기 전까지 스스로 무엇을 해야 하는지 설명하려 했습니다. 3.5 와 3.6 사이에서 이루어진 어떤 튜닝이든 도구 호출 (tool calling) 과 도구 사용 시기를 파악하는 데 있어 정말로 더 잘 작동하게 만든 것 같습니다.

오픈소스 모델로 코딩하기에는 매우 좋은 날입니다! 2~3 년 전에는 ChatGPT 를 CodeLlama 34B 로 대체하는 것이 어려웠는데, 우리가 이룬 진보는 놀랍습니다.

질문이 있으시면 말씀해 주세요!

하드웨어: 2x RTX 3090 + 1 P40 및 128GB DDR4

수정: 죄송합니다. 잠들기 전에 글을 써서 30B 가 아니라 35B(A3B) 라고 잘못 썼다는 것을 깨달았습니다.