7,530억 개 매개변수 AI 모델에서 안전 필터가 제거되었다? 무료 체험 가능 여부 분석
요약
이 글은 7,530억 개 매개변수를 가진 GLM-5.3 모델의 '안전 필터 제거' 버전에 대한 주장을 분석합니다. GLM-5.3이 오픈 웨이트 LLM임을 설명하며, 'uncensored' 버전은 공식 출시본이 아닌 독립적으로 수정된 파생 모델임을 강조합니다. 또한 MoE 구조를 통해 총 매개변수와 활성 매개변수의 개념을 상세히 다룹니다.
핵심 포인트
- GLM-5.3은 Zhipu AI의 오픈 웨이트 LLM이다.
- 'UNCENSORED' 버전은 공식 모델이 아닌 독립적으로 수정된 파생본이다.
- MoE 구조는 컴퓨팅 자원 절약에 도움을 주는 설계 방식이다.
- 총 매개변수와 활성 매개변수는 서로 다른 개념으로 이해해야 한다.
🤯 누군가 7,530억 개 매개변수 AI 모델의 안전 거부 기능을 제거했다... 그리고 지금 무료로 시도할 수 있다?
바이럴 X 게시물이 제 주의를 끌었습니다.
이 글은 다음과 같이 주장합니다:
🧠 GLM-5.3 UNCENSORED가 이용 가능하다.
💰 입력 및 출력 토큰당 비용이 0달러이다.
📚 1,05만 토큰의 컨텍스트 창(context window)을 가지고 있다.
⚡ 초당 약 60토큰을 생성한다.
거의 너무 좋아서 믿기 어려울 정도입니다!
하지만 가격보다 더 흥미로운 단어 하나가 있습니다:
UNCENSORED.
누군가 완전히 새로운 모델을 학습시켰나요?
모든 AI가 어떤 질문이든 답하게 만드는 비밀 프롬프트를 발견했나요?
이미 강력한 모델을 더 똑똑하게 만들었나요?
정확히 무엇이 달라진 걸까요?
저는 원래 모델, 수정된 가중치(weights), API 제공업체, 그리고 독립적인 연구를 조사했습니다.
이야기는 사실이지만, 바이럴 헤드라인이 암시하는 것보다 훨씬 복잡합니다.
처음부터 이해해 봅시다.
📊 제가 세 가지 교육용 그래픽을 첨부했습니다: 누가 무엇을 만들었는지, 'uncensored'가 무엇을 의미하는지, 그리고 무료 API 뒤에 숨겨진 함정입니다.
🤔 첫째: GLM-5.3이란 무엇인가?
GLM-5.3은 Zhipu AI로 알려졌던 **https://t.co/3epjpZ9Fra**의 대규모 언어 모델(LLM)입니다.
https://t.co/3epjpZ9Fra는 코딩, 추론, 소프트웨어 엔지니어링 및 AI 에이전트 워크플로우를 위한 모델을 개발합니다.
원래 GLM-5.3은 2026년 8월에 출시되었습니다.
이는 **오픈 웨이트 모델(OPEN-WEIGHT MODEL)**입니다.
이는 개발자들이 그 학습된 수치적 매개변수(numerical parameters)를 다운로드하여 해당 라이선스 하에서 실행하거나 수정할 수 있다는 의미입니다.
이 마지막 점이 중요합니다.
GLM-5.3과 GLM-5.3 UNCENSORED는 같은 공식 출시 버전이 아닙니다.
하나는 원래의 https://t.co/3epjpZ9Fra 모델입니다.
다른 하나는 독립적으로 수정된 버전입니다.
왜 이것이 중요한지 이해하려면 두 가지 기술적 개념, 즉 매개변수(parameters)와 전문가 혼합(Mixture of Experts)을 알아야 합니다.
🧠 '7,530억 개 매개변수'는 무엇을 의미하는가?
요리 배우기를 상상해 보세요.
수년 동안 맛과 요리 기술을 인식하는 능력이 향상됩니다.
AI 모델은 다르게 학습합니다: 훈련(training) 중에 엄청난 수의 수학적 값이 조정됩니다.
이 학습된 값들을 **매개변수(PARAMETERS)**라고 부릅니다.
대략적으로 말해, 이 매개변수들은 훈련 과정에서 학습된 통계적 패턴을 인코딩합니다.
GLM-5.3은 대략 다음과 같은 값을 포함하고 있습니다:
총 매개변수 7,530억 개(753 BILLION TOTAL PARAMETERS).
그리고 토큰당 약 **400억 개의 활성 매개변수(40 BILLION ACTIVE PARAMETERS PER TOKEN)**를 가집니다.
이 두 숫자가 어떻게 모두 맞을 수 있을까요?
그 이유는 **Mixture of Experts (MoE)**라는 설계를 사용하기 때문입니다.
수백 개의 조리 스테이션을 가진 레스토랑을 상상해 보세요.
각 요리가 나올 때, 주방은 선택된 스테이션만을 사용합니다.
나머지 스테이션들도 존재하지만, 모든 주문에 대해 모두 작동할 필요는 없습니다.
마찬가지로, MoE 모델은 토큰마다 학습된 매개변수 그룹 중 일부만 활성화시킵니다.
활성 매개변수는 컴퓨팅 자원(COMPUTE)을 줄이는 데 도움을 줍니다.
하지만 총 매개변수는 여전히 메모리 측면에서 중요합니다.
따라서 이것은 엄청나게 큰 모델이며, 저렴한 VPS(Virtual Private Server)가 쉽게 호스팅할 수 있는 수준이 아닙니다.
👥 세 주체 — 하나가 아니다 (THREE PARTIES — NOT ONE)
이것이 첫 번째 중요한 사실 확인입니다.
원래 GLM-5.3 모델을 개발했습니다.
2️⃣ DEALIGNAI
'GLM-5.3-UNCENSORED-FP8'이라는 수정된 체크포인트(checkpoint)를 게시한 독립 개발자입니다.
이 개발자는 거부 행동에 대한 가중치 수준의 수정을 설명합니다. 이들의 릴리스는 또한 CRACK이라는 이름을 사용합니다.
3️⃣ EXPERIENTIAL LABS
'GLM-5.3 Uncensored'라는 호스팅된 경로를 광고하는 별도의 AI 플랫폼입니다.
이곳의 카탈로그에는 홍보용 $0 입력/출력 가격이 나열되어 있으며 수정된 가중치(modified weights)로 연결됩니다.
따라서 과정은 다음과 같습니다:
https://t.co/ZwcZQ7ydUg가 모델을 생성하고 (CREATES THE MODEL)
↓
독립 개발자가 이를 수정하며 (INDEPENDENT DEVELOPER MODIFIES IT)
↓
EXPERIENTIAL LABS가 접근을 호스팅합니다 (HOSTS ACCESS)
↓
사용자들이 API 요청을 보냅니다 (USERS SEND API REQUESTS)
이것은 https://t.co/3epjpZ9Fra로부터 온 완전히 새로운 공식 검열 해제 릴리스가 아닙니다.
그리고 체크포인트에 연결하는 것이 API 제공업체가 바이트 단위로 동일한 가중치를 실행한다는 것을 독립적으로 증명하지는 못합니다.
IMAGE 1은 이 세 가지 역할을 설명합니다.
🤖 “검열 해제(UNCENSORED)”란 무엇을 의미하는가?
AI 비서에게 질문을 하는 상황을 상상해 보세요.
때로는 다음과 같이 답변할 수 있습니다:
“죄송하지만, 그것은 도와드릴 수 없습니다.”
왜 그럴까요?
모델들은 유해한 요청을 포함하여 특정 요청을 거부하도록 훈련될 수 있기 때문입니다.
추가적인 지침(instructions), 애플리케이션 설정(application settings) 및 제공업체 필터(provider filters) 또한 거부 응답에 영향을 미칠 수 있습니다.
하지만 모델은 때때로 정당한 질문에도 거부하는 경우가 발생합니다.
예를 들어, 권한을 가진 보안 연구원이 교육적인 질문을 했음에도 불구하고 전반적인 거부를 받는 경우입니다.
이것을 **과잉 거부(OVER-REFUSAL)**라고 합니다.
"검열되지 않은(uncensored)" 모델은 일반적으로 특정 종류의 학습된 거부 응답을 줄이는 것을 목표로 합니다.
하지만 이 용어는 정확하고 보편적으로 표준화된 기술 사양은 아닙니다.
각기 다른 프로젝트들이 서로 다른 방법을 사용합니다.
그리고 이것이 결정적인 차이점입니다:
거부를 할 가능성이 낮음 ≠ 더 지능적임.
모델은 정확하거나 신뢰할 수 있게 되기 위해 질문을 더 많이 답변할 필요는 없습니다.
🧬 이 기술의 이름은 아블리테이션(ABLITERATION)이다
이름만 들으면 공상 과학 소설 같은 느낌입니다. 😂
하지만 **아블리테이션(abliteration)**은 언어 모델 연구에서 실제로 사용되는 용어입니다.
이는 모델 거부 응답과 관련된 학습된 패턴을 변경하기 위한 방법론의 한 종류입니다.
세 가지 다른 접근 방식을 비교해 보겠습니다.
프롬프팅 (PROMPTING)
모델에게 다르게 행동하도록 요청하지만, 가중치(weights)는 변경하지 않습니다.
미세 조정 (FINE-TUNING)
행동에 영향을 주기 위해 추가적인 예시를 가지고 계속해서 훈련합니다.
아블리테이션 (ABLITERATION)
거부 응답과 관련된 모델의 내부 표현(internal representations) 측면을 식별한 다음, 해당 행동을 줄이기 위해 가중치나 내부 계산을 변경합니다.
dealignai 체크포인트는 특히 **가중치 수준의 거부 감소(weight-level refusal reduction)**를 설명합니다.
이는 영리한 시스템 프롬프트와는 다릅니다.
변경은 모델 자체에 이루어집니다.
IMAGE 2는 이 아이디어를 개념적으로 보여줍니다.
🔬 모델 내부에서 거부는 어떻게 표현될 수 있는가?
기억하세요: 언어 모델은 거대한 수학적 시스템입니다.
정보를 처리할 때, 활동은 고차원적인 표현(high-dimensional representations)을 통해 흐릅니다.
연구자들은 특정 형태의 거부 응답과 관련된 활동 패턴들을 발견했습니다.
잘 알려진 2024년 논문 중 하나는 다음과 같은 제목이었습니다:
“언어 모델에서의 거부는 단일 방향에 의해 매개된다.”
검토된 모델에서 특정 내부 표현 방향을 수정하는 것이 거부 행동에 강하게 영향을 미칠 수 있음을 보여주었습니다.
후속 연구는 더 복잡한 그림을 제시합니다. 즉, 여러 종류의 거부와 내부 패턴이 존재할 수 있다는 것입니다.
그러니 '안전 켜기/끄기 (SAFETY ON / OFF)'라고 표시된 문자 그대로의 버튼을 상상하지 마세요.
반드시 하나만 있는 것은 아닙니다.
하지만 학습된 내부 특징(learned internal features)을 수정함으로써 일부 거부 행동은 변경하는 것이 가능합니다.
이것이 이러한 종류의 모델 수정 뒤에 숨겨진 기술적 돌파구입니다.
🚨 모든 안전 제한을 제거하는가?
아닙니다.
그리고 이것은 매우 중요합니다.
모델의 행동은 여러 다른 계층에 의존할 수 있습니다:
- 학습된 모델 가중치(model weights)에서의 행동
- 시스템 지침(System instructions)
- 애플리케이션 레벨 정책(Application-level policies)
- 제공업체 조정(Provider moderation)
- 도구 권한(Tool permissions)
- 사용자 계정 제한(User account restrictions)
- 외부 소프트웨어 제어(External software controls)
가중치를 변경하는 것은 일부 학습된 거부를 약화시킬 수 있습니다.
하지만 API 호스트는 여전히 요청을 필터링하고, 정책을 시행하며, 한도를 부과하거나, 계정을 제한할 수 있습니다.
코딩 에이전트도 여전히 읽기 전용 도구 권한을 가질 수 있습니다.
따라서:
검열되지 않은 가중치 ≠ 어디에서도 규칙 없음.
그리고 다른 수정된 체크포인트는 매우 다르게 행동할 수 있습니다.
'검열되지 않았다(uncensored)'라는 용어는 상상할 수 있는 모든 요청에 답변이 제공된다는 보장이 아닙니다.
🧠 제거가 모델의 지능을 파괴하는가?
거대한 모델의 가중치를 편집하면 그 능력이 망가질 것이라고 예상할 수 있습니다.
때때로 수정은 실제로 부작용을 일으킵니다.
하지만 일부 연구에서는 거부 감소가 모델의 일반적인 능력 대부분을 온전히 유지할 수 있다는 것을 발견했습니다.
2026년 9월, Anthropic은 GLM-5.3과 관련된 연구를 발표했습니다.
그 연구원들은 자체 제거 변형(abliterated variant)을 만들었습니다.
세 가지 유해 요청 평가에서, 평균 거부가 약 95%에서 6%로 떨어지는 것으로 보고했습니다.
특정 별도의 능력 테스트에서는 광범위한 성능이 비교적 유사하게 유지되었습니다.
이는 놀라운 일입니다.
하지만:
Anthropic의 실험은 Experiential Labs의 API 또는 정확한 dealignai 체크포인트를 직접 평가한 것이 아니었습니다.
이 수치들은 별도로 수정된 모델로 어떤 일이 발생할 수 있는지를 보여줄 뿐입니다.
이는 해당 바이럴 엔드포인트에 대한 성능이나 거부(refusal) 보증을 의미하는 것이 아닙니다.
🛡️ 사이버 보안 관점에서 이것이 중요한 이유
이것은 사소한 장난감 모델이 아닙니다.
2026년 9월, 미국 국립표준기술연구원(NIST)은 GLM-5.3의 사이버 보안 역량에 대한 평가를 발표했습니다.
당시 NIST는 이를 자체적으로 평가한 공개 가중치 사이버 보안 모델 중 가장 강력하다고 설명했습니다.
또한 NIST는 해당 평가에서 여전히 선도적인 미국 최첨단(frontier) 모델들보다 낮은 수준에 머물렀다고 보고했습니다.
이 두 가지 사실 모두 중요합니다.
GLM-5.3은 강력했지만, 반드시 세계에서 가장 강력한 모델은 아니었습니다.
Anthropic의 후속 실험은 거부율을 상당히 낮추는 것이 유능한 모델이 유해한 요청에 응할 의향을 훨씬 높일 수 있음을 시사했습니다.
이는 상충 관계(trade-off)를 만듭니다.
승인된 방어자에게 유용한 지식이 오용될 수도 있기 때문입니다.
따라서 이 이야기는 단순히 챗봇이 논란의 여지가 있는 질문에 답변해야 하는지에 대한 논쟁이 아닙니다.
이는 **역량(CAPABILITY) + 안전장치(SAFEGUARDS) + 실제 세계 접근성(REAL-WORLD ACCESS)**에 관한 것입니다.
💰 GLM-5.3 무검열 버전이 실제로 무료인가?
여기 놀라운 점이 있습니다.
Experiential Labs는 정말로 다음과 같은 가격으로 모델을 광고하고 있습니다:
입력 토큰 백만 개당 $0.
출력 토큰 백만 개당 $0.
이는 X 계정에서 만들어낸 것이 아닙니다.
하지만 '무료'라는 단어에는 별표가 붙어야 합니다.
플랫폼은 무료 플랜의 허용 범위와 제한 사항을 문서화하고 있습니다.
경로 및 프로모션에 따라 다음과 같은 것을 접할 수 있습니다:
- 시간별 또는 일일 토큰 상한선(caps).
- 계정 요구 사항.
- 사용량 제한.
- 이용 가능성 제한.
- 프로모션 조건.
- 또는 혜택의 변경.
무료 피자를 제공하는 식당을 생각해보세요.
그것이 매일 영원히 10,000개의 피자를 주문할 수 있다는 의미는 아닙니다.
광고된 $0 요금 ≠ 무제한 컴퓨팅(UNLIMITED COMPUTE).
서비스에 의존하기 전에, 본인의 계정에서 현재 약관을 확인하세요.
IMAGE 3은 이러한 트레이드오프(trade-offs)를 보여줍니다.
📚 105만 토큰 컨텍스트 주장은 사실인가?
원래 GLM-5.3 아키텍처는 최대 보고된 용량으로 다음을 지원합니다:
1,048,576 TOKENS.
이는 대략 105만 토큰입니다.
하지만 컨텍스트 창(context window)이란 무엇일까요?
비서에게 무언가를 건네준다고 상상해 보세요:
- 질문.
- 이전 대화 내용.
- 프로젝트 문서.
- 코드 파일.
- 녹취록.
- 긴 보고서.
컨텍스트 창은 모델이 요청 처리 과정에서 얼마나 많은 정보를 처리할 수 있는지를 의미합니다.
백만 토큰은 엄청난 양입니다.
하지만 두 가지 별개의 질문이 중요합니다.
모델 아키텍처가 무엇을 지원할 수 있는가?
그리고:
특정 서버가 실제로 무엇을 받아들일 수 있는가?
이 둘은 반드시 같지 않습니다.
⚠️ 모델 설계 vs 실제 호스팅 컨텍스트
모델은 백만 토큰을 처리하도록 설계될 수 있습니다.
하지만 호스팅 서버는 그러한 요청을 지원하기 위해 충분한 메모리와 적절한 추론(inference) 소프트웨어가 필요합니다.
독립적인 체크포인트(checkpoint) 자체의 예시 서비스 구성에는 약 131,000 토큰 수준의 제한이 포함되어 있습니다.
이는 백만 토큰보다 훨씬 작은 수치입니다.
이것이 Experiential Labs가 131K로 제한된다는 것을 증명할까요?
아닙니다.
이는 배포 구성(deployment configuration)이 중요하다는 것을 보여줄 뿐입니다.
광고된 1.05M 컨텍스트는 실제 호스팅 경로를 통해 테스트되어야 합니다.
저는 이 제공업체에 대해 백만 토큰 요청을 독립적으로 완료한 적이 없습니다.
따라서 정확한 헤드라인은 다음과 같습니다:
1.05M 광고된 컨텍스트 — 독립적으로 검증된 엔드투엔드 보장이 아님.
⚡ '초당 60 토큰'은 무엇을 의미하는가?
토큰(Tokens)은 모델이 생성한 텍스트의 작은 단위입니다.
초당 60 토큰이라는 것은, 생성이 시작된 후 서버가 10초 동안 약 600개의 토큰을 생성할 수 있다는 것을 의미합니다.
하지만 속도 측정에는 여러 가지 기준이 있습니다:
최초 토큰까지의 시간 (TIME TO FIRST TOKEN): 무언가가 나타나기까지 걸리는 시간입니다.
생성 속도 (GENERATION SPEED): 생성이 시작된 후 초당 몇 개의 토큰이 나타나는가입니다.
총 지연 시간 (TOTAL LATENCY): 전체 요청을 처리하는 데 걸리는 시간입니다.
처리량(THROUGHPUT): 제공업체가 사용자 전체에 걸쳐 처리할 수 있는 작업량을 의미합니다.
바이럴하게 언급되는 초당 약 60 토큰이라는 숫자는 특정 시점에 관찰되거나 광고된 처리량을 반영할 수 있습니다.
실제 속도는 서버 부하, 프롬프트 길이, 배치(batching), 모델 설정, 사용 가능한 GPU에 따라 달라집니다.
이는 모든 요청에 대한 보장이 아닙니다.
빠르더라도 거대한 프롬프트를 처리하기 시작하는 데 시간이 걸릴 수 있습니다.
🖥️ 소형 VPS에서 모델을 실행할 수 있나요?
이론적으로는 가중치(weights)를 다운로드할 수 있습니다.
실제로는 이 모델이 거대합니다.
약 7,530억 개의 매개변수(parameters)를 가진 이 모델의 FP8 가중치는 다른 서비스 요구 사항을 제외하더라도 750 GB 규모입니다.
FP8은 **8비트 부동 소수점(8-bit floating point)**의 약자로, 모델 가중치에 사용되는 간결한 수치 형식입니다.
FP8은 제거(abliteration)와 같은 개념이 아닙니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X AI 연구의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기