Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
XAI 번역요약
중국 AI의 핵심 트렌드는 새로운 모델이 아닌 인프라 구축에 있다
중국 AI 트렌드가 프론티어 모델 개발에서 Huawei Ascend NPU 등 하드웨어 인프라 최적화로 이동하고 있습니다. Gemma 4 및 Qwen3 등 주요 모델들이 로컬 실리콘에 맞춰 최적화되며 Ascend 소프트웨어 생태계가 강화되고 있습니다.
6월 14일3
X요약
로컬 LLM 최종 추천 (M5 Pro Max 128GB 실측) 1순위: Qwen 3.6 35B-A3B (4bit or 6bit)
본 기사는 M5 Pro Max 128GB 환경에서 로컬 LLM을 테스트하고 최적의 모델로 Qwen 3.6 35B-A3B를 추천합니다. 이 모델은 MLX 프레임워크 사용 시 4bit 양자화에서 초당 70~85 토큰 이상의 빠른 속도를 보여주며, 특히 MoE 구조 덕분에 에이전트 코딩 및 도구 사용 능력에서 뛰어난 성능을 발휘합니다.
5월 6일9