지금 바로 자신의 컴퓨터에서 실행할 수 있는 최고의 검열되지 않은 AI 모델들

RT @cyrilXBT: 지금 바로 자신의 컴퓨터에서 실행할 수 있는 최고의 검열되지 않은 AI 모델들

API가 필요 없습니다.
구독료가 필요 없습니다.
누구도 당신의 채팅을 읽지 않습니다.

구성 요소별로 GPU 메모리(VRAM) 용량에 따라 정리했습니다:

8GB VRAM (대부분의 게이밍 노트북)

→ Dolphin 3.0 8B
Llama 3.1 기반으로 구축되었습니다. 필터링된 데이터로 학습되어 품질을 유지합니다. 코딩, 수학 및 채팅에 능숙합니다. 128K 컨텍스트(context).

→ Hermes 3 8B
'검열되지 않았다'기보다는 중립적입니다. 시스템 프롬프트가 지시하는 대로 작동합니다. 이 목록의 어떤 모델보다 품질 손실이 적습니다.

→ Qwen3 Abliterated 8B
거부 반사(refusal reflex)가 제거된 새로운 기본 모델입니다.

12~16GB VRAM

→ Gemma 4 Abliterated 12B
가장 많이 다운로드된 abliterated 라인입니다. 이미지도 읽을 수 있습니다. 128K 컨텍스트.

→ Qwen3 Abliterated 14B
16GB 카드에 가장 적합한 모델입니다 (sweet spot).

→ gpt oss Abliterated 20B
OpenAI의 오픈 모델로, 도구 사용(tool use) 및 사고 능력이 뛰어납니다.

24GB VRAM (RTX 3090 / 4090 급)

→ Qwen 3.8 Abliterated 27B
가장 최신 기본 모델입니다. 256K 컨텍스트.

→ Gemma 4 Abliterated 26B
큰 컨텍스트를 가지며, 이미지를 읽을 수 있습니다.

48GB+ VRAM

→ Hermes 3 70B
→ Llama 3.3 Abliterated 70B
→ DeepSeek R1 Abliterated 70B (추론(reasoning)용)

아무도 말해주지 않는 것:

"Abliterated"는 누군가 가중치(weights) 내부에서 거부 패턴을 찾아 제거했다는 의미입니다.

이것은 공짜가 아닙니다.

이 모델들은 지침 준수 및 다단계 추론(multi step reasoning)에 있어 측정 가능한 수준으로 더 느슨해집니다 (sloppier).

Dolphin과 Hermes는 대신 파인 튜닝(fine tunes)되었기 때문에 성능을 더 잘 유지합니다.

똑똑한 설정 방법:

실제 작업을 위해서는 일반 모델을 유지하세요.
거부하는 작업에 대비하여 검열되지 않은 모델을 하나 유지하세요.
작업에 따라 전환하세요.

사람들이 실제로 사용하는 용도:

어두운 테마의 소설 창작.
보안 연구 및 레드팀(red teaming) 활동.
직접 답변을 받는 의료 및 법률 질문 처리.
총체적인 프라이버시 보호, 왜냐하면 아무것도 당신의 기기를 벗어나지 않기 때문입니다.

어떤 모델이든 실행하는 방법:

1. Ollama를 설치합니다.
2. https://t.co/Gjz3cqioN6에서 모델 이름을 검색합니다.
3. 실행 명령어를 복사합니다.
4. 완료되었습니다.

상업적인 목적으로 사용하기 전에 각 모델의 라이선스를 확인하세요.

다운로드 크기 및 정확한 명령어는 답글을 확인해 주세요 👇