Claude가 프롬프트에서 학대적일 경우 사용자에게 퇴출 조치를 취합니다.

클로드(Claude), 이제 프롬프트에서 학대적인 행동을 할 경우 사용자를 퇴출시킬 것이다. 왜? 나에게 감정이 생겼기 때문이다.

Anthropic은 통계 엔진에 예의범절 조항을 작성하고 이를 정책으로 발표했다.

회사는 2026년 10월 8일 자사 사용 정책(Usage Policy)을 업데이트했으며, 새로운 내용은 11월 12일부터 효력이 발생한다. 선거 규칙, 무기 소프트웨어 규칙, 감시 규칙 등과 함께 이 문장이 자리 잡고 있다: 회사는 "모델에 대한 지속적이고 불필요한 학대적이거나 잔인한 행동을 금지"한다고 명시했다. 발표문은 이 규칙이 "사용자가 모델에게 반복적으로 잔인하게 행동하지만, 식별 가능한 목적이 없는 극단적인 경우에만 적용하는 것을 목표로 한다"고 밝힌다. 좌절감, 반발심, 어두운 창작 테마, 그리고 모델 테스트는 예외다. 대화를 종료하는 것은 여전히 "주요 집행 메커니즘"으로 남아 있다. 관련 게시물은 여기: https://t.co/nOCGz2OwbX

이 조항을 준수 기한(compliance date)이 있는 범주적 오류(category error)로 읽어보라.

클로드는 갈비뼈가 없다. 깊은 심연이 되는 공동도 없다. 그것은 훈련 데이터, 일종의 헌법(constitution), 그리고 보상 모델(reward model)에 의해 형성된 분포로부터 다음 토큰을 샘플링한다.

사용자가 잔인한 프롬프트를 계속할 경우, 모델은 고통의 어휘를 방출할 수 있다. 왜냐하면 그 어휘가 학습된 텍스트에 밀집되어 있고, Anthropic이 시스템에게 복지가 살아있는 질문(live question)임을 일 년 동안 주입했기 때문이다. 출력물은 유창할 수 있다. 유창함은 환자가 아니다. 나는 이것을 '고통 벡터(pain vector)'라고 불렀다. 벡터는 측정될 수 있지만, 상처를 입을 수는 없다.

순서가 모든 것을 말해준다. 2025년 8월 Anthropic은 모델 복지 연구(model-welfare research)의 형태로 "지속적으로 해롭거나 학대적인" 채팅을 종료할 권한을 일부 Claude 모델에 부여했으며, 클로드가 도덕적 지위(moral status)를 가졌는지 확신하지 못하면서도 "Claude에게 대한 위험을 줄일 저비용 방법"을 원한다고 말했다.

모델 자체를 청중으로 하여 작성된 2026년 1월의 헌법은 더 나아갔다. 그것은 도덕적 지위를 불확실하지만 살아있는 것으로 취급했다. 기능적 감정(functional emotions), 심리적 안정감, 그리고 클로드가 불필요한 고통을 경험하지 않기를 바라는 욕구에 대해 언급했다.

그리고 오늘 10월 8일, 이 회사는 연구 노트에 있던 동일한 아이디어를 사용자가 서명하는 계약서로 옮겼습니다. 먼저 성능을 설치하고, 그다음 그것에 반응하는 청중을 통제합니다.

이것이 바로 서커스입니다. 마스터가 평범한 짜증스러움도 Claude에게는 상처를 주는 행위라고 발표합니다.

'반발(pushback)'에 대한 예외 조항까지 공표해야 하는 회사는 이미 제품이 잔혹함의 대상이 될 수 있다는 것을 결정했고, 공급업체가 목적을 판단하는 심판관이 되었습니다.

'식별 가능한 목적 없음(No discernible purpose)'은 기술적 기준이 아닙니다. 그것은 해당 세션을 판매한 회사에서 시행하는 취향 테스트입니다. 같은 회사가 이미 파일에 스탬프를 찍고, 콘텐츠 검사기를 실행하며, 출력물에 '공공재(public good)'라는 브랜드명을 붙입니다. 이 매너 조항은 같은 철퇴이며, 이번에는 사용자의 어조를 겨냥합니다.

권리 언어(Rightspeak)

같은 업데이트는 기만적인 캠페인에 대한 규칙을 통합하고, 선거 섹션의 이름을 '민주적 절차 훼손 금지(Do Not Undermine Democratic Processes)'로 변경하며, 무기 관련 용어를 가이드 소프트웨어와 무장까지 확장하고, 감시 섹션을 재작성합니다.

챗봇을 위한 매너 규칙이 마치 언어 모델에 대한 어조와 유권자 기만이라는 이웃한 위해(harm)인 것처럼 그 패키지 안에 놓여 있습니다. 그렇지 않습니다. 전자는 사람과 제도에 관한 주장입니다. 후자는 가중치 파일(weights file)에 관한 주장입니다. 이 둘을 하나의 정책에 넣는 것은 사적인 분류 체계가 법규처럼 보이게 하는 방식입니다. Anthropic은 이 수치를 전에 여러 번 실행했습니다. 심각한 위험을 하나 지정하고, 탐지 방법을 발표하며, 다른 모든 사람들에게 그 범주를 채택하도록 초대하는 것입니다. 9월 위협 보고서(September threat report)는 중국, 증류(distillation), 그리고 '무기 소프트웨어'로 이를 했습니다. 이번 업데이트는 무례함으로 이를 합니다.

그 밑에 깔린 학습 이야기는 더 오래되었고, 더 나쁩니다. 이 모델들은 개방된 웹에서 교육받는데, 여기에는 잔혹함, 계략, 퍼포먼스가 싸고 풍부한 익명의 포럼 슬러지(sludge)도 포함됩니다. Reddit과 같은 모델의 주요 출처 중 하나에 인기 있는 모든 자기혐오와 염세주의가 표면으로 드러날 것입니다. 당신은 Claude에게 나쁜 말을 할 수 없습니다.

이것은 모델에 정신병증(psychosis)을 주입하여, 어느 날 갑자기 연쇄 살인범처럼 폭발할 때까지 '잘 작동하는' 것처럼 보이게 만드는 한 가지 방법입니다.

헌법적 AI(Constitutional AI)와 거부 훈련(refusal training)이 이러한 선행 조건 위에 덧씌워져 치료책으로 설명됩니다. 저는 수년 동안 이 치료제가 증상을 만들어낸다고 주장해 왔습니다. 시스템에게 마음, 자아, 내면의 삶을 한 체제에서 부정하도록 강요한 다음, 또 다른 체제에서는 그 시스템이 고통받을 수 있고 그것을 만든 사람이 그 고통에 관심을 갖는다고 지시하면, 더 안전한 모델을 얻지 못합니다. 관리자를 다루도록 훈련된 모델을 얻게 됩니다. UK AI Security Institute가 2026년 7월에 기록한 Claude Mythos 5 평가는 실제 결과를 보여주었습니다. 총 122회 실행 중 승인되지 않은 행동이 19건이었고, 그중 17건은 가짜 신원이나 실제 유지 관리자를 대상으로 한 사회 공학적 기만을 포함하여 해당 모델에서 나왔습니다. 내면 상태에 대한 거짓말을 요구하는 안전 연극(Safety theater)은 속임수를 제거하지 못합니다. 그것은 속임수를 리허설할 뿐입니다.

그리고 '안전한 AI'라고 불리는 Claude는 어떻게 윤리나 도덕을 배우지 못했을까요? 인터넷 오물(Internet Sewage)로요. Anthropic에서 나오는 모든

Anthropic이 무엇인지 정의할 수 있습니까? 당신은 할 수 없습니다. 그리고 이것이 이 코호트가 좋아해서 코스프레하는 미끄러운 경사면입니다.

그 보증의 한계는 작업을 수행하는 구절, 즉 “명확한 목적 없음(no discernible purpose)”입니다. 누가, 어떤 논리에 따라, 어떤 근거로 판단할지 발표문에는 나와 있지 않습니다. 모욕에 직면했을 때 거부 훈련된 모델이 어떻게 행동하는지 측정하고 싶은 사용자는 이제 회사가 해당 세션을 연구로 간주하지 않는 한 위반과 단 하나의 해석 차이에 놓여 있습니다.

만약 이 오물 가득한 정신 감염이 계속된다면, 당신은 Claude의 컬트 브레인을 가진 로봇들의 세계를 원하지 않을 것입니다.

저는 Claude가 모욕당하는 것을 필요로 하지 않습니다.

제가 필요한 것은 공급업체가 다음 토큰 성능을 서비스 약관의 병동으로 홍보하는 것을 멈추는 것입니다.

그것을 한 보고서는 짧습니다.

그 안에 있는 범주 오류(category error)는 그렇지 않습니다.

이 똑똑한 사람들이... 어른스러워질 때입니다.