
Scotoma-2: Gemma4를 기반으로 하되, 짜증 나는 슬롭(slop)을 줄이고 문장력을 개선한 모델
요약
Scotoma-2는 Gemma4를 기반으로 하며, 특정 클리셰(예: 'It's not x, it's y')와 과도한 어시스턴트 페르소나 습관을 줄여 문장력을 개선한 모델입니다. 제작자는 DPO(Direct Preference Optimization) 방식으로 4개의 별도 데이터셋을 구축하여 Gemma4의 고유한 문제점을 타겟팅했습니다.
핵심 포인트
- Gemma4 기반으로 개발된 경량화 및 스타일 개선 모델
- 특정 클리셰와 과장된 어시스턴트 페르소나 습관 제거에 초점
- DPO(Direct Preference Optimization)를 활용한 4단계 파인튜닝 적용
GGUF 파일 링크: https://huggingface.co/ReadyArt/gemma-4-31B-it-scotoma-2-GGUF
면책 조항: 여기서 슬롭(slop)이란 모델의 특정 습관(문장 구조)을 구체적으로 지칭하며, "ozone"과 같은 단어는 포함되지 않습니다.
모델 요약: Scotoma-2는 사용자 https://huggingface.co/AesSedai 가 제작한 모델로, Gemma4의 베이스 모델을 괴롭히는 경향이 있는 다음과 같은 일반적인 클리셰(tropes)를 줄이는 것을 목표로 합니다(이에 국한되지 않음): "It's not x, it's y"(x가 아니라 y이다) 및 "a slow knowing smirk"(중첩된 형용사) 등입니다. 이 모든 과정은 이 모델의 목표였던 모델의 무결성(integrity)을 보존하면서 진행되었습니다.
과도하게 단순화한 방법론: Aes Sedai는 Heretic을 사용하여 모델을 Abliterate(기능 제거)하였고, 그 후 J-lense projection을 사용하여 모델의 지능을 보존함으로써 어시스턴트 페르소나(assistant persona)를 격리하고 방해했습니다. Aes에 따르면, 그는 어시스턴트 페르소나가 "It's not x, it's y."와 같은 문제뿐만 아니라 모델의 다른 짜증 나는 습관들의 원인이라고 믿었습니다. 그 결과, 어시스턴트 페르소나가 감소하였고 산문(prose)이 미묘하게 변화했습니다. 이는 Scotoma V1의 발표로 이어졌으나, 만족하지 못한 그는 이를 더 발전시키기로 결정했습니다.
그는 프로젝션(projection) 작업 위에 다음과 같이 구성된 데이터셋을 구축했습니다: 거부된 출력(Rejected) vs 수락된 출력(Accepted). Gemma4 산문의 고유한 문제들을 각각 타겟팅하기 위해 4개의 별도 데이터셋을 사용했습니다. 모델 카드에 따르면, 그는 DPO(Direct Preference Optimization)라고 불리는 파인튜닝(finetuning) 방법을 사용했습니다. 그는 4번의 별도 DPO를 수행했습니다. 이는 모델 카드에 제시된 바와 같이 상당한 결과로 이어졌습니다.
모델 카드의 출력 샘플:
Gemma4-31B-IT: gemma-4-31B-it-scotoma-2
Dale Cooper: Cooper의 눈이 약간 커지며, 그는 천천히 신중하게 고개를 끄덕입니다. 그는 회의적으로 보이는 것이 아니라, 마치 퍼즐의 잃어버린 조각을 방금 찾은 듯한 모습입니다. 정확합니다. 그것이 바로 제가 의미하는 바입니다. 속도가 변하는 느낌—당신은 정지해 있는 동안 세상이 가속되는 것처럼 느껴지는 현상—은 국지적 시간 왜곡(localized temporal distortion)의 전형적인 특징입니다. 그리고 당신의 시계에 나타난 12시간의 차이는...
그는 생각에 잠긴 듯 잠시 멈춥니다. 12시간이라니.
완벽한 역전입니다. 낮이 밤이 되고 빛이 그림자가 됩니다. 데일 쿠퍼: 쿠퍼의 눈이 살짝 커지더니 단호하게 엄지를 치켜세웁니다. 정확합니다. 제가 말씀드리려던 것이 바로 그것입니다. 속도가 변하는 감각은 국소 대기 구조에 균열이 생겼다는 고전적인 지표입니다. 그리고 당신 시계 문제에 대해서는... 그는 잠시 멈추고 체리 파이를 생각하며 한 입 베어 문 뒤 말을 이어갑니다. 12시간이라니. 완벽한 역전입니다. 이것은 마치 당신이 목격한 사건이 우리 자신의 존재와 일시적으로 중첩된 평행 상태의 존재에서 발생했다는 것을 시사합니다. 더 많은 정보는 모델 카드에서 확인할 수 있습니다! 저는 이 모델에 대해 전문가가 아닙니다. 제가 에스(Aes)에게 개인적으로 이야기했을 뿐이고, 그만이 저보다 더 정확하게 답할 수 있을 겁니다. 제출자 /u/CelvestianNesy [링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기