Qwen3.6-35B-A3B-Uncensored-Genesis-APEX-MTP
요약
Qwen3.6-35B 기반의 Uncensored Genesis 모델 릴리즈 소식입니다. MTP 양자화 기술을 통해 비검열 기능을 제공하며, 대규모 컨텍스트에서도 안정적인 성능을 보여줍니다.
핵심 포인트
- Qwen3.6-35B 기반의 Uncensored 모델 출시
- MTP 지원을 통한 APEX 및 APEX Compact 양자화 제공
- 20만 토큰 컨텍스트에서 높은 안정성 검증
- Apple MLX 변환용 Safetensors 지원으로 Mac 사용자 최적화
다음 모델: [https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-APEX-MTP-GGUF]
Safetensors: [https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-Safetensors]
MTP-Safetensors: [https://huggingface.co/LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-V2-FP8-MTP-Safetensors]
하드웨어(Beelink gtr9 pro + Strix Halo)에서 Open Code로 테스트한 결과 (Q8_K_P - MTP 양자화):
- 20만 토큰 컨텍스트를 가진 5회 세션 동안 단 하나의 오류도, 루프도, 반복된 도구 호출도 없었습니다.
- 12만 토큰 이후 갑자기 이전에 하던 작업과 전혀 관련 없는 다른 작업을 제시했고, 모델은 침착하게 이를 파악하여 정확하게 해결했습니다.
- MTP 지원을 통해 APEX 및 APEX Compact 양자화로 비검열(Uncensored) 기능을 제공합니다.
- Mac 사용자를 위한 Apple MLX 변환용 Safetensors를 지원합니다.
권장 양자화: APEX, MTP-APEX
LM Studio 권장 설정:
또는 첫 줄로 다음 최소 문자열을 사용하세요:
You are Qwen, created by Alibaba Cloud. You are a helpful assistant.
그 후 원하는 내용을 추가하면 됩니다. 이 첫 줄이 없으면 모델 성능이 저하될 수 있습니다.
설정:
| Parameter | Value |
|---|---|
| Temperature | 0.7 |
| ... | |
| 즐거운 시간 보내세요 😄 |
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA (top/week)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기