AMD를 위한 Unsloth 출시 🚀
요약
Unsloth가 AMD GPU 환경에서 LLM을 학습하고 실행할 수 있는 지원을 시작했습니다. Radeon, Instinct, Ryzen 등 다양한 AMD 하드웨어에서 VRAM 사용량을 70% 절감하고 속도를 최대 2배 높일 수 있습니다.
핵심 포인트
- AMD GPU에서 500개 이상의 모델 학습 및 실행 지원
- Windows, WSL, Linux 환경에서 작동 가능
- 3GB VRAM 환경에서도 Qwen, Gemma 학습 지원
- 커스텀 Triton 커널을 통해 속도 향상 및 VRAM 사용량 절감
이제 AMD 하드웨어에서 LLM (Large Language Models)을 학습 및 실행할 수 있습니다.
• AMD와 협력하여 AMD GPU에서 500개 이상의 모델을 학습 및 실행할 수 있도록 지원합니다.
• Windows, WSL, Linux에서 작동합니다.
• 3GB VRAM에서 Qwen, Gemma를 학습할 수 있습니다.
GitHub: https://t.co/2kXqhhvLsb
우리의 커스텀 Triton 커널과 수학 알고리즘을 통해 Radeon, Instinct, Ryzen 및 데이터 센터 GPU에서 최대 2배 더 빠르고 VRAM 사용량은 70% 적게 사용하며 정확도 손실 없이 작동합니다. 또한 GGUF 및 Safetensors 추론을 위한 최적화된 ROCm 빌드를 지원합니다.
Unsloth는 더 빠른 LLM 학습 및 추론을 위한 오픈 소스 로컬 UI로, 도구 호출 치유 (tool-call healing), 코드 실행, 보안 웹 검색, 원격 API 및 HTTPS 배포 기능을 제공합니다. 로컬 모델을 Claude Code, Codex 에이전트에 연결하고 최신 Kimi, GLM, DeepSeek, Qwen3.6, Gemma 4 모델을 실행하세요.
🔗블로그 + 가이드: https://t.co/U9LqyRjFdj
[IMG:1]
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Claude/Anthropic의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기