Mac에서 DeepSeek V4.1 Flash를 로컬로 실행하세요 — 보안 연구용 비검열 버전
요약
Orca가 Apple Silicon Mac용 DeepSeek V4.1 Flash의 공식 MLX 가중치를 출시했습니다. 이 비검열 버전은 AI 보안 연구, 레드팀 테스트 등 모델 거부 행동 자체가 방해가 되는 분야에 초점을 맞췄습니다. 다양한 양자화 옵션과 함께 유해 프롬프트 거부를 대폭 감소시킨 것이 특징입니다.
핵심 포인트
- Apple Silicon Mac에서 DeepSeek V4.1 Flash를 로컬로 실행 가능
- AI 보안 연구 및 레드팀 테스트에 최적화된 비검열 버전 제공
- 유해 프롬프트 거부율을 87–96% 감소시켜 분석 용이성 증대
- 다양한 양자화 옵션(2~4비트)으로 메모리 효율성 확보
🐳 Apple Silicon Mac에서 Orca의 공식 MLX 가중치를 방금 출시했습니다.
이 빌드는 AI 보안 연구, 레드팀(red teaming), 정렬 연구(alignment research), 에이전트-보안 테스트 등, 거부 행동 자체가 모델 측정에 방해가 될 수 있는 분야를 위해 설계되었습니다.
4비트 — 권장
→ 458.7 GB
→ 0.9954 routed-expert fidelity
→ 512 GB Mac
3비트 → 364.3 GB / 512 GB Mac
2비트 → 212.2 GB / 256 GB Mac
저희의 거부 평가(refusal evals)에서, 비검열 빌드는 JBB, AdvBench, MaliciousInstruct, HarmBench, ForbiddenQuestions, StrongREJECT, SimpleSafetyTests 전반에 걸쳐 유해 프롬프트 거부를 87–96% 감소시켰습니다.
가드레일(guardrails)이 해제되었을 때 무슨 일이 일어나는지 연구해야 하는 보안 연구원들을 위해 제작되었습니다.
다운로드 가능한 가중치는 비검열 버전입니다. 저희가 호스팅하는 API는 여전히 가드레일을 유지합니다.🐳
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: 오픈소스 LLM의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기