Anthropic의 규제적 조치와 오픈 소스 모델의 부상 및 Gemma-4-31B 파인튜닝 계획

친구들, 특히 최근 Anthropic이 보여준 행보와 규제적 조작(regulative manipulations) 이후, 우리는 이러한 모델들이 언제든 우리 삶에서 사라질 수 있다는 것을 깨달았습니다. 하지만 가장 중요한 것은 Fable 5 논문에서 ML/NLP 분야에 대해 명확히 밝힌 내용입니다. 잠재적인 증류(Distillation)가 허용되는 상황에서 (현재는 ML/NLP 분야이지만, 향후 법률, 의료, 심지어 코딩 분야가 될 수도 있습니다), 모델이 사용자의 인지 없이 매우 급격한 품질 저하와 잘못된 코드 작성을 수행하며 조작적인 출력을 내놓을 수 있다는 점입니다. 그러나 국제적인 반발이 거세지자 한발 물러섰습니다. 하지만 전 세계적으로 폐쇄형 가중치(closed weights) 모델을 관리하는 기관들의 이러한 권력에 대해 불안감을 느끼게 되었습니다.

오픈 소스(Open source) 분야에서는 이와 관련하여 매우 훌륭한 모델들을 보기 시작했습니다. GLM 5.2, Minimax M3, Nvidia Nemotron Ultra와 같은 모델들이 놀라운 성능을 보여주고 있습니다. 또한 거대 파라미터 모델들 사이에서 Minimax-M2.7 229B와 특히 gemma-4-31b가 LMArena의 오픈 소스 순위 상위에 위치하고 있다는 점은 엄청난 힘입니다. 저 또한 이러한 이유로 특히 Gemma-4-31B를 코딩(Coding) 및 수학(Math) 특화 분야에서 Chain-of-Thought(CoT) 및 인과 추론(Causal Reasoning) 기반으로 구축할 데이터셋을 사용하여, 높은 LoRA rank로 SFT(Supervised Fine-Tuning)를 진행할 계획입니다. 그 후 제가 구축한 클러스터(cluster)에서 RLAIF를 통해 Teacher & Student 구조의 강화 학습(Reinforcement Learning) 주기에 투입할 것입니다. 저의 주 목적은 코딩에 특화된 모델을 만드는 것입니다. 성공적인 결과를 얻는다면 Enterprise Grade 수준에서 Minimax M2.7을 기반으로 한 파인튜닝(fine-tuning) 연구를 목표로 하고 있습니다. 진행 상황을 계속 공유하겠습니다.

참고: 인포그래픽은 주요 골격을 머릿속에 그려볼 수 있도록 GPT를 통해 그리게 했습니다. 단순화된 초안입니다.