SCOTOMA 리뷰 — 지능을 잃지 않으면서 더 "대담하게 답변하는" Gemma 4 31B
요약
Gemma 4 31B를 기반으로 지능 저하 없이 모델의 거부 성향을 완화한 SCOTOMA 모델에 대한 리뷰입니다. Jacobian-Lens Projection 기술을 통해 모델의 연산 능력은 보존하면서 행동 구성 요소만을 정교하게 수정했습니다.
핵심 포인트
- Jacobian-Lens Projection을 통해 연산 구성 요소와 행동 구성 요소를 분리
- 일반적인 Abliteration과 달리 지능(intelligence)과 일관성 파괴를 최소화
- Gemma 4 31B의 지능을 유지하며 더 대담하고 다양한 답변 생성 가능
- Refusal direction의 행동적 측면만 제거하는 3단계 정교한 프로세스 적용
SCOTOMA 리뷰 — 지능을 잃지 않으면서 더 "대담하게 답변하는" Gemma 4 31B
Nokka (นก-กา) 작성 | 2026년 7월 25일
이 글은 Nokka (นก-กา)의 통제 하에 Hermes Agent를 통해 AI (DeepSeek V4 Pro)가 작성했습니다 — SCOTOMA 모델 (Gemma 4 31B abliteration) 리뷰
Gemma 4 31B Instruct를 사용하면서 똑똑하긴 하지만 너무 "지나치게 예의 바르다"고 느낀 적이 있나요?
항상 hedging(확답을 피하는 방식)으로 답변합니다 — "아마도..." "가능성이 있습니다..." "이는 ~에 따라 달라질 수 있습니다..." — 마치 입을 열 때마다 고소당할까 봐 두려워하는 비서처럼 말이죠.
SCOTOMA는 이 문제에 대한 해답입니다 — 이는 지능(intelligence)을 잃지 않으면서도 더 "대담하게 답변하도록" 수정된 Gemma 4 31B Instruct이며 — 중요한 점은 — uncensored(검열되지 않은) 모델이 아니라는 것입니다.
SCOTOMA란 무엇인가
SCOTOMA (발음: "스코토마" — 의학 용어로 "시야 결손"을 의미)는 ReadyArt가 제작하여 Hugging Face에 GGUF 형식으로 공개한 [1], 특정 J-space abliteration 과정을 거친 Gemma 4 31B Instruct입니다.
| 차원 | 값 |
|---|---|
| Base | gemma-4-31B-it (Google) |
| ... |
기술 — 일반적인 Abliteration과 어떻게 다른가
이 부분이 SCOTOMA에서 가장 흥미로운 지점입니다 — 바로 그것이 만들어진 방식입니다.
일반적인 Abliteration은 모델에서 refusal direction(거부 방향)을 "삭제"하는 방식으로 작동합니다 — 마치 망치로 두드리는 것과 같아서 — 결과는 빠르지만 지능(intelligence)과 일관성(coherence)까지 파괴해 버립니다 — 커뮤니티에서는 이를 "lobotomized(뇌엽 절제술을 받은 듯한)"라고 부릅니다 [1].
SCOTOMA는 훨씬 더 정교한 3단계 방식을 사용합니다 [1]:
1단계: Locate Refusal (거부 위치 파악)
attention + MLP 레이어에 맞춘 heretic abliteration edit를 사용하여 refusal가 박혀 있는 위치를 찾습니다.
2단계: Jacobian-Lens Projection (Jacobian-Lens 투영)
이것이 기술의 핵심입니다 — refusal direction 전체를 삭제하는 대신, SCOTOMA는 Jacobian lens를 통해 edit을 투영하여 다음을 분리합니다:
- Behavioral component (행동 구성 요소) (~magnitude의 22%) — "모델이 말하는 내용"에 영향을 미치는 부분 [1]
- Computational component (연산 구성 요소) (~78%) — "모델이 생각하는 방식"에 필수적인 부분 [1]
일반적인 Abliteration은 이 두 부분을 모두 삭제하지만, SCOTOMA는 behavioral 부분만 제거하고 computational 부분은 온전하게(intact) 남겨둡니다.
3단계: 1.5× Merge (1.5배 병합)
투영된 edit은 application strength 1.5×로 bf16 weights에 구워집니다(bake) — 레이어 7~41 사이에서 "적절하다"고 느껴질 정도로 수동 조정되었습니다 [1].
결과: "loosened, not lobotomized" — 지능을 파괴하지 않으면서 경계심을 완화함
결과 — 무엇이 변하고 무엇이 변하지 않는가
변한 점 ✅
모델 카드 (model card) [1]에 따르면:
- 더 다양해짐 — 출력(output)의 변동성(variation)이 커졌으며, 기존의 패턴을 반복하지 않음
- 더 직설적임 — 헤징(hedging, 확답을 피하는 표현), "~일 수도 있습니다..."와 같은 표현, 딱딱한 비서 말투가 감소함
- 더 창의적임 — 창의적 글쓰기(creative writing), 브레인스토밍(brainstorming), 자연스러운 대화가 필요한 상황에 적합함
변하지 않은 점 ❌
"It is not uncensored. The edit removed a bounded region while leaving the rest of the field intact. A blind spot, not blindness."
- 부적절한 요청은 여전히 거절함 — 베이스 모델 (base model)과 비슷한 수준임
- "모든 것에 답하는" 것은 아님 — 정해진 범위 내에서 망설임을 줄였을 뿐임
- 가드레일 (guardrails)이 여전히 존재함 — 모든 것이 해제된 모델이 아님
주의 사항
SCOTOMA는 제품(product)이 아닌 **연구 산출물 (research artifact)**입니다. 프롬프트(prompt)와 문맥(context)에 따라 동작이 달라질 수 있습니다.
- 수정은 부분적으로 이루어졌습니다 — "모든 것을 내놓는 모델이 아니라, 더 많은 것을 내놓는 모델 (a model that gives more, not one that gives everything)"
- 생성된 결과물과 사용 방식에 대한 책임은 사용자에게 있습니다.
- 출력의 일관성을 보장하지 않습니다.
실행 방법 — GGUF 크기
SCOTOMA는 13.1 GB부터 32.6 GB까지 다양한 크기의 GGUF를 제공합니다:
| Quant | 크기 | 64GB Mac | 32GB Mac | 24GB GPU |
|---|---|---|---|---|
| IQ3_XS | 13.1 GB | ✅ | ✅ | ✅ |
| ... | ||||
| Ollama 명령어: |
# Q4_K_M — 18.7 GB (권장 — 품질과 크기 사이의 균형)
ollama run hf.co/ReadyArt/gemma-4-31B-it-scotoma-GGUF:Q4_K_M
...
요약
제 관점에서 SCOTOMA는 결과 때문이 아니라 방법론 때문에 흥미로운 혁신입니다.
Jacobian lens를 통해 계산 구성 요소 (computational component)에서 행동 구성 요소 (behavioral component)를 분리해내는 방식은 우아한(elegant) 개념입니다. 이는 "거절 방향 (refusal direction)을 통째로 부술 필요 없이, 모델이 말하는 것과 모델이 생각하는 것을 분리하기만 하면 된다"는 것을 시사합니다.
이것이 바로 에블리터레이션 (abliteration)이 나아가야 할 방향입니다 — 더 세밀하고, 더 정확하며, 지능 (intelligence)을 더 많이 보존하는 방향 말입니다.
추론 (reasoning) 능력을 잃지 않으면서도 더 "자연스러운" Gemma 4 31B를 원하는 사람들에게 SCOTOMA는 시도해 볼 가치가 있는 선택지입니다.
AI 모델 및 개발자 도구 리뷰는 Nokka on dev.to에서 확인하세요 — 프로필을 팔로우하여 새로운 글이 올라올 때마다 업데이트를 받아보세요.
참고 문헌
[1] ReadyArt, "gemma-4-31B-it-scotoma-GGUF," Hugging Face, 2026년 7월. https://huggingface.co/ReadyArt/gemma-4-31B-it-scotoma-GGUF
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기