Flash MOE에 대해 읽기 시작했습니다. Pi를 하니스로 사용하여 자체 Claude Desktop 스타일 앱을 만들었습니다. Qwen3.6 27B도 좋지만, 제가 작업하는 대규모 코드베이스의 경우 때때로 부족함을 느꼈기 때문에, GLM 5.2가 Flash MOE와 함께 제 기기에서 작동할 수 있는지 확인해보고 싶었습니다.

Claude를 사용했을 때 현재 벤치마크는 도구 등을 포함하여 4.4k의 프롬프트 입력에 6분 38초가 걸렸고, 이 4.4k를 넣고 501 토큰을 출력하는 속도는 2 t/s였습니다. 사전 프롬프트를 사용하지 않았을 때는 400 토큰을 입력하고 337 토큰을 출력하는 데 3분 17초가 걸렸습니다. 또한 2.8 t/s도 확인했지만, 이는 당시 제 기기에서 무엇을 하느냐에 따라 다릅니다.

밤에는 작업 계획을 세우도록 시도해보고, 낮에는 Qwen으로 그 계획을 실행해보려고 합니다. 이것은 단지 실험일 뿐이지만, 지금까지의 결과에 만족합니다. pipenetwork/GLM-5.2-MLX-mixed-3_6bit 모델(크기 332 GB)을 사용했습니다. https://preview.redd.it/td1ow57rs1dh1.png?width=1592&format=png&auto=webp&s=157e94f4fc1030314db4dc2f1db5c85520fac089 https://preview.redd.it/pea4777rs1dh1.png?width=1632&format=png&auto=webp&s=7c646d7584d52200929d1ac344c5833169542c88 /u/gutard 제출 [링크] [댓글]