unslothai/unsloth

기능 • 퀵스타트 (Quickstart) • 노트북 (Notebooks) • 문서 (Documentation)

curl -fsSL https://unsloth.ai/install.sh | sh

irm https://unsloth.ai/install.ps1 | iex

Unsloth Studio (Beta)를 사용하면 Windows, Linux 및 macOS에서 텍스트, 오디오, 임베딩 (embedding), 비전 (vision) 모델을 실행하고 학습할 수 있습니다.

모델 검색 + 다운로드 + 실행: GGUF, LoRA 어댑터 (adapters), safetensors를 포함합니다.
모델 내보내기 (Export models): 모델을 GGUF, 16-bit safetensors 및 기타 형식으로 저장하거나 내보냅니다.
도구 호출 (Tool calling): 자가 치유 (self-healing) 도구 호출 및 웹 검색을 지원합니다.
코드 실행 (Code execution): LLM이 Claude artifacts 및 샌드박스 (sandbox) 환경에서 코드를 테스트할 수 있게 합니다.
API 추론 엔드포인트 (API inference endpoint): Unsloth를 사용하여 Claude Code, Codex 도구에서 로컬 LLM을 배포하고 실행합니다. - 추론 설정을 자동으로 설정하고 채팅 템플릿 (chat templates)을 사용자 정의합니다.

우리는 gpt-oss, Qwen3, Llama 4, Mistral, Gemma 1-3, 그리고 Phi-4를 개발하는 팀들과 직접 협력하며, 모델 정확도를 향상시키는 버그들을 수정해 왔습니다.
채팅을 위해 이미지, 오디오, PDF, 코드, DOCX 및 기타 파일 형식을 업로드할 수 있습니다.
학습 및 강화학습 (RL)
500개 이상의 모델을 정확도 손실 없이 최대 2배 더 빠르게, 최대 70% 적은 VRAM으로 학습할 수 있습니다. - 커스텀 Triton 및 수학적 **커널 (kernels)**을 사용합니다. PyTorch 및 Hugging Face와 함께 진행한 협업 사례를 확인해 보세요. 데이터 레시피 (Data Recipes): PDF, CSV, DOCX 등으로부터 데이터셋을 자동으로 생성합니다. 시각적 노드 워크플로우에서 데이터를 편집하세요. 강화학습 (Reinforcement Learning, RL): GRPO, FP8 등을 위해 VRAM을 80% 적게 사용하는 가장 효율적인 RL 라이브러리입니다. - 전체 미세 조정 (full fine-tuning), RL, 사전 학습 (pretraining), 4-bit, 16-bit 및 FP8 학습을 지원합니다.
관측 가능성 (Observability): 학습을 실시간으로 모니터링하고, 손실 (loss) 및 GPU 사용량을 추적하며 그래프를 사용자 정의합니다. - 멀티 GPU (Multi-GPU) 학습이 지원되며, 곧 주요 개선 사항이 추가될 예정입니다.

Unsloth는 두 가지 방식으로 사용할 수 있습니다: 웹 UI인 Unsloth Studio를 통하거나, 코드 기반 버전인 Unsloth Core를 통하는 방식입니다. 각 방식은 요구 사항이 다릅니다.

Unsloth Studio (Beta)는 Windows, Linux, WSL 및 macOS에서 작동합니다.

CPU: 현재 Chat 및 Data 레시피 (Recipes) 지원
NVIDIA: RTX 30/40/50, Blackwell, DGX Spark, Station 등에서 학습 (Training) 가능
macOS: 현재 Chat 및 Data 레시피 (Recipes) 지원. **MLX 학습 (MLX training)**이 곧 출시될 예정입니다.
AMD: Chat + Data 지원. Unsloth Core를 통해 학습 가능. Studio 지원이 곧 출시될 예정입니다.
출시 예정: Apple MLX, AMD 및 Intel에 대한 학습 (Training) 지원.
Multi-GPU: 현재 사용 가능하며, 대규모 업그레이드가 진행 중입니다.

curl -fsSL https://unsloth.ai/install.sh | sh

irm https://unsloth.ai/install.ps1 | iex

unsloth studio -p 8888

클라우드 VM 또는 LAN 접속을 위해, 모든 인터페이스에 바인딩하려면 다음을 추가하세요:

-H 0.0.0.0

업데이트하려면 위와 동일한 설치 명령어를 사용하세요. 또는 다음을 실행하세요 (Windows에서는 작동하지 않음):

unsloth studio update

저희의 Docker 이미지 unsloth/unsloth 컨테이너를 사용하세요. 실행 방법:

docker run -d -e JUPYTER_PASSWORD="mypassword" \
-p 8888:8888 -p 8000:8000 -p 2222:22 \
-v $(pwd)/work:/workspace/work \
...

개발자용, 나이틀리 (nightly) 및 삭제 방법 등에 대한 지침을 보려면 고급 설치 (advanced installation) 섹션을 참조하세요.

curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
...

winget install -e --id Python.Python.3.13
winget install --id=astral-sh.uv -e
uv venv unsloth_env --python 3.13
...

Windows의 경우, pip install unsloth는 PyTorch가 설치되어 있는 경우에만 작동합니다. 저희의 Windows 가이드를 읽어보세요.
Unsloth Studio와 동일한 Docker 이미지를 사용할 수 있습니다.

RTX 50x, B200, 6000 GPU의 경우: uv pip install unsloth --torch-backend=auto를 사용하세요. Blackwell 및 DGX Spark에 대한 가이드를 참조하세요.

AMD 및 Intel GPU에 Unsloth를 설치하려면, 저희의 AMD 가이드와 Intel 가이드를 따르세요.

저희의 노트북 (notebooks)을 통해 무료로 학습하세요. 새로운 무료 Unsloth Studio 노트북을 사용하여 웹 UI에서 모델을 무료로 실행하고 학습할 수 있습니다. 가이드를 읽어보세요. 데이터셋을 추가하고, 실행한 다음, 학습된 모델을 배포하세요.

모델	무료 노트북 (Free Notebooks)	성능 (Performance)
Gemma 4 (E2B)	1.5배 더 빠름	50% 감소
Qwen3.5 (4B)	1.5배 더 빠름	60% 감소
gpt-oss (20B)	2배 더 빠름	70% 감소
Qwen3.5 GSPO	2배 더 빠름	70% 감소
gpt-oss (20B): GRPO	2배 더 빠름	80% 감소
Qwen3: Advanced GRPO	2배 더 빠름	70% 감소
embeddinggemma (300M)	2배 더 빠름	20% 감소
Mistral Ministral 3 (3B)	1.5배 더 빠름	60% 감소
Llama 3.1 (8B) Alpaca	2배 더 빠름	70% 감소
Llama 3.2 Conversational	2배 더 빠름	70% 감소
Orpheus-TTS (3B)	1.5배 더 빠름	50% 감소

Kaggle, GRPO, TTS, 임베딩 (embedding) 및 비전 (Vision)을 위한 모든 노트북 보기
모든 모델 및 모든 노트북 보기
Unsloth에 대한 상세 문서(documentation)를 여기에서 확인하세요

API 추론 엔드포인트 (API inference endpoint): Claude Code, Codex 도구에서 로컬 LLM을 배포하고 실행하세요. 가이드
Qwen3.6: 이제 Qwen3.6-35B-A3B를 Unsloth Studio에서 학습하고 실행할 수 있습니다. 블로그
Gemma 4: Google의 새로운 모델을 Unsloth에서 직접 실행하고 학습하세요. 블로그
Unsloth Studio 소개: LLM을 실행하고 학습하기 위한 새로운 웹 UI입니다. 블로그
Qwen3.5: 0.8B, 2B, 4B, 9B, 27B, 35-A3B, 112B-A10B 모델을 이제 지원합니다. 가이드 + 노트북

MoE LLM을 12배 더 빠르게 학습하고 VRAM 사용량을 35% 줄이세요 - DeepSeek, GLM, Qwen 및 gpt-oss 대상. 블로그
임베딩 모델 (Embedding models): Unsloth는 이제 약 1.8~3.3배 더 빠른 임베딩 미세 조정 (fine-tuning)을 지원합니다. 블로그 • 노트북
새로운 배치 알고리즘을 통해 다른 모든 설정 대비 **7배 더 긴 컨텍스트 강화학습 (RL)**을 제공합니다. 블로그
새로운 RoPE & MLP Triton 커널 (Triton Kernels) & 패딩 프리 + 패킹 (Padding Free + Packing): 3배 더 빠른 학습 및 30% 적은 VRAM 사용. 블로그
500K 컨텍스트 (500K Context): 이제 80GB GPU에서 500K 이상의 컨텍스트를 가진 20B 모델 학습이 가능합니다. 블로그
FP8 & 비전 강화학습 (Vision RL): 이제 소비자용 GPU에서 FP8 및 VLM GRPO를 수행할 수 있습니다. FP8 블로그 • Vision RL

아래의 고급 명령어는 Unsloth Studio용입니다. Unsloth Core 고급 설치를 원하시면 문서를 참조하세요.

git clone https://github.com/unslothai/unsloth
cd unsloth
./install.sh --local
...

그 후 업데이트 방법:

unsloth studio update


@software{unsloth,
author = {Daniel Han, Michael Han and Unsloth team},
title = {Unsloth},
...
}

🦥Unsloth로 모델을 학습시켰다면, 이 멋진 스티커를 사용할 수 있습니다!

Unsloth는 Apache 2.0과 AGPL-3.0의 이중 라이선스 (dual-licensing) 모델을 사용합니다. 핵심 Unsloth 패키지는 **Apache 2.0** 라이선스를 유지하는 반면, Unsloth Studio UI와 같은 특정 선택적 구성 요소들은 오픈 소스 라이선스인 **AGPL-3.0** 하에 라이선스가 부여됩니다.

이러한 구조는 프로젝트를 오픈 소스로 유지하고 더 넓은 생태계가 계속 성장할 수 있도록 지원하는 동시에, Unsloth의 지속적인 개발을 뒷받침하는 데 도움을 줍니다.

- 사용자가 Unsloth로 모델을 실행하고 저장할 수 있게 해주는 llama.cpp 라이브러리
- Hugging Face 팀과 그들의 라이브러리: transformers 및 TRL
- 기여를 아끼지 않은 Pytorch 및 Torch AO 팀
- NeMo DataDesigner 라이브러리와 기여를 제공한 NVIDIA
- 그리고 물론, Unsloth에 기여했거나 Unsloth를 사용한 모든 분들!

unslothai/unsloth

요약

핵심 포인트

댓글