🚨 Qwen4가 등장했습니다! 최고의 오픈 웨이트(open-weight) 모델입니다 (곧 공개 예정).
👀 하지만 저희에게 있어 오늘 기술 블로그에서 가장 중요한 문장은 바로 맨 끝에 있습니다!
👉"패밀리 내의 더 작은 모델들이 동일한 계보를 기반으로 하고 같은 세대의 기술로 훈련되어 오픈 소스로 출시될 것입니다." 👈
Qwen4-27B, 누가 있나요? 🎉
이것은 Qwen4-Max입니다!
통계:
🧠 2.4T 백본 파라미터(backbone parameters)
⚡ 토큰당 71B 활성화(activated per token)
💾 추가 328B N-gram 임베딩 파라미터(N-gram embedding parameters)
📚 1 MILLION 토큰 컨텍스트
👁️ 네이티브 비전(Native vision)
🤖 더 강력한 장기 지평 에이전트(long-horizon agents)
그리고 Qwen은 아키텍처를 변경했습니다.
👉 Gated DeltaNet + Qwen Sparse Attention
👉 4개의 병렬 게이트 잔여 브랜치(parallel gated residual branches)
👉 컨텍스트 기반 N-gram 임베딩
Qwen에 따르면, 새로운 기본 모델은 Qwen3.8-Max-Base보다 적은 파라미터(25% 적게 활성화)를 사용하면서도 지식(Knowledge), 코드(Code), QA, STEM 전반에서 더 나은 성능을 보여줍니다.
이제 벤치마크 개선 사항을 살펴보세요.
Qwen3.8-Max → Qwen4-Max
💻 DeepSWE v1.1
69.3 → 75.7
🤖 Agents' Last Exam
27.9 → 46.7
⚙️ AutomationBench-AA
56.2 → 72.5
🏥 HealthBench Professional
39.6 → 60.0
DeepSWE 기준:
🟣 Qwen4-Max → 75.7
⚫ Kimi K3.1 → 75.5
🟢 GPT-6.1 Sol → 75.2
🟠 Claude Opus 5.5 → 74.2
하지만 저를 정말로 흥미롭게 하는 것은 이것입니다.
Qwen4-Max는 더 적은 토큰으로 더 많은 작업을 수행합니다.
Terminal-Bench 4.0:
💻 점수: 38.9 → 48.5
📉 약 48–49% 적은 토큰 사용
Work360:
📊 점수: 47.74 → 52.69
📉 24–35% 적은 토큰 사용
💰 작업당 평균 비용: $4.43 → $1.67
이는 Qwen의 평가에서 작업당 비용이 62% 감소했음을 의미합니다.
API 가격 책정:
💰 입력(Input): $1.50/M 토큰
💰 출력(Output): $4.50/M 토큰 👈
💰 캐시된 입력(Cached input): $0.075/M 토큰
이것이 로컬 AI에 무엇을 의미하는지 생각해 보세요.
저희는 RTX 3090, 5090, Strix Halo 박스 및 Mac에서 초당 더 많은 토큰을 짜내기 위해 몇 달 동안 노력해 왔습니다.
하지만 만약 우리의 다음 로컬 모델이 작업을 완료하는 데 절반의 생성 토큰만 필요하다면 어떨까요?
저는 이것이 더 작은 Qwen4 모델들로 테스트되는 것을 보고 싶습니다.
Qwen4-Max의 API는 오늘 공개되었습니다. 다운로드 가능한 Max 가중치(weights)는 발표되지 않았습니다.
💥 하지만 Qwen은 공식적으로 더 작은 오픈 웨이트 모델들이 출시될 것이라고 확인했습니다.
Qwen4-27B를 주세요! 🔥
답글에 링크가 있습니다.