Muse Spark Open 소개: 현재까지 가장 강력한 미국 오픈 웨이트 모델

안녕하세요, r/LocalLlama 여러분 - 오늘 저희는 현존하는 가장 강력한 미국 오픈 웨이트 모델인 Muse Spark Open을 출시하게 되어 기쁩니다. 코딩 및 에이전트 작업에 최적화되었으며, 장기 계획(long-horizon tasks), 복잡한 소프트웨어 엔지니어링, 다단계 추론에서 탁월합니다.

주요 모델 사양 (Key Model Specs)

• 파라미터 (Parameters): 총 816B / 활성 42B
• 컨텍스트 창 (Context Window): 1M 토큰
• 모달리티 (Modalities): 텍스트, 이미지, 비디오, 오디오
• 안전 후 학습 (Safety Post-Training): Meta의 Superintelligence Scaling Framework 하에서 평가를 거친 추가 안전성 후 학습을 진행했습니다.

추론(Inference), 미세 조정 및 배포 (fine-tuning & deployment)

• Helion GPU 커널: SGLang에 맞춤형 자동 튜닝 Helion 커널이 포함되어 있으며, NVIDIA와 AMD GPU 전반에서 1.03–3.95×의 커널 속도 향상과 AMD MI350에서 3%의 E2E 개선을 제공합니다.
• 엔진 (Engines): SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp 및 Unsloth 등 선도적인 추론 엔진에서 실행 가능하며, AMD, Apple, Intel, NVIDIA 실리콘에 대한 최적화가 이루어졌습니다.
• Apple Silicon 최적화: 고급 모델의 접근성을 높이기 위해 Muse Spark Open은 최신 MLX 프레임워크를 사용하는 두 대의 Apple M5 Ultra Mac Studio에서 실행되도록 최적화되었습니다.
• 미세 조정 (Fine-tuning): 개발자는 PyTorch와 함께 TorchTitan을 사용하여 모델을 추가로 사용자 정의할 수 있습니다.
• API 플랫폼: Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter, Together AI를 통해 오늘부터 이용 가능합니다.

다운로드 위치 (Where to download)
모델 가중치(Model weights)는 Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face, Microsoft Foundry Models에서 다운로드할 수 있습니다. 저희는 Muse 모델 라이선스 하에 가중치를 출시하며, 제한적인 상업적 이용 약관을 통해 많은 개발자가 무료로 사용할 수 있도록 했습니다. 여러분의 피드백을 기대합니다!

더 자세한 내용은 연구 블로그(research blog)에서 확인하세요: https://go.meta.me/museopen
가중치 다운로드: https://huggingface.co/collections/meta-models/muse-spark-open
/u/AIatMeta가 r/LocalLLaMA에 제출한 [링크] [댓글]