Unsloth에서 MTP 사용하기

요약

Unsloth에서 MTP(Model Type Preservation) 레이어를 보존한 모델이 출시되었으며, 관련 Hugging Face 링크를 통해 접근할 수 있습니다. 하지만 현재로서는 MTP 기능의 완전한 활용을 위해 llamacpp PR을 확인하고 직접 빌드하는 과정이 필요합니다. Unsloth는 모델 카드에 MTP 사용 방법을 안내하고 있으므로 이를 참고해야 합니다.

핵심 포인트

• Unsloth에서 MTP 레이어를 보존한 모델(Qwen3.6-27B, Qwen3.6-35B)을 제공한다.
• MTP 기능을 완전히 활용하려면 llamacpp PR을 확인하고 직접 빌드하는 과정이 필요하다.
• 사용 방법 및 상세 정보는 Unsloth의 Hugging Face 모델 카드에 안내되어 있다.