ROCm 기반 MLX LLM 엔진의 새로운 출시 - lemon-mlx-engine
요약
lemon-mlx-engine에 ROCm 7.13 통합이 완료되어 로컬 하드웨어에서 최신 ROCm을 사용할 수 있습니다. Qwen3 및 3.5/3.6 MoE 모델 관련 버그와 커널 수정 사항이 포함되었습니다.
핵심 포인트
- ROCm 7.13 통합으로 로컬 하드웨어 지원 확대
- Qwen3 및 MoE 모델 관련 버그 수정 완료
- 커널 최적화 및 성능 개선 사항 포함
여러분 안녕하세요, lemon-mlx-engine에 TheRock / ROCm 7.13 통합이 방금 완료되었습니다. 이는 여러분이 MLX 엔진을 통해 로컬 하드웨어에서 최신 ROCm을 사용해 볼 수 있음을 의미합니다! 또한 Qwen3, 3.5 및 3.6 MoE(Mixture of Experts)와 dense 모델에서 발견되었던 다양한 버그 수정 및 커널 수정 사항도 포함되어 있습니다. 직접 사용해 보세요! https://github.com/lemonade-sdk/lemon-mlx-engine/releases/tag/b1034-stable
AI 자동 생성 콘텐츠
본 콘텐츠는 Reddit AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0