구글 Gemma 4, 안전 장치가 완전히 제거됨?

요약

dealignai가 구글의 안전 장치가 제거된 버전인 Gemma-4-31B-JANG4M-CRACK을 공개했습니다. 이 모델은 기존에 구축된 안전 검토 메커니즘을 무효화하여, '민감한 질문'에도 기본적으로 정상적인 답변을 제공하는 것이 특징입니다. 이는 AI 모델의 제어 및 안전성 측면에서 중요한 논쟁거리를 던지고 있습니다.

핵심 포인트

• dealignai가 구글 Gemma 4의 안전 장치가 제거된 버전(Gemma-4-31B-JANG4M-CRACK)을 공개했다.
• 해당 모델은 기존의 안전 검토 메커니즘을 무효화하여, 민감한 질문에 대해서도 기본적으로 정상적인 답변을 제공한다.
• 이로 인해 HarmBench 준수율이 93.7%까지 떨어지는 등 안전성 측면에서 큰 변화가 감지되었다.