9월 10일, @AnthropicAI는 'AI 오용 탐지 및 대응: 2026년 9월(Detecting and Countering Misuse of AI: September 2026)' 보고서를 발표했으며, 이 보고서에서 '@whyyoutouzhele'를 ‘안정 유지’ 및 여론 감시 작전의 표적 중 하나로 명확히 지목했습니다.

Anthropic은 Claude 사용자 활동을 검토하던 중, 중국 현지 공공 보안 및 국가 보안 당국과 연관된 것으로 평가되는 계정 그룹을 발견하고 이를 차단했습니다. 이 사용자들은 Claude를 이용하여 정보를 자동 수집하고, 정부 감시 데이터베이스에 질의하며, 고용주들을 위한 일일 보고서를 생성하는 데 사용했습니다. 저희 계정도 이 보고서에서 공개된 감시 작전에 포함되었습니다.

올해 초 @OpenAI가 반체제 인사들을 겨냥한 유사한 작전을 공개한 이후, Anthropic은 이번에는 다른 각도에서 이러한 감시 메커니즘을 폭로했습니다. 즉, 중국 내부 사람들의 목소리를 대변하는 저희 뉴스 계정이 국가 보안 기구의 감시 표적으로 취급되고 있다는 것입니다.

또한 이 보고서는 중국 공공 보안 및 국가 보안 당국이 사회 문제, 노동 시위, 뉴스 보도에 관한 정보를 정치적 위협으로 분류하고 인식하여 개입을 필요로 한다고 밝혀냈습니다. Anthropic이 정부 계약자가 수행한 것으로 평가한 또 다른 작전에서는 사용자들이 Claude를 이용해 자동화된 ‘여론 브리핑’을 작성했으며, 하루에 약 15개에서 30개 이상의 기사를 처리했습니다. 이들은 콘텐츠의 '정치적 민감성'을 평가하고 노동 시위, 학생 활동, 소수 공동체의 요구, 외신 보도를 '정치적 안정'과 '이념적 안보'에 대한 위협으로 재구성했습니다. 일부 문건에서는 정부 단속 조치를 권고하기도 했습니다.

가장 직접적인 사례 중 하나는 공안 시스템과 연관된 사용자가 Claude에게 ‘안정 유지’ 보고서를 작성하도록 요청한 경우였습니다. 그 결과 보고서는 공식 민원 제기 이전에 민원인들을 가로채고, 강압 심문을 진행하며, 그들의 이동 및 통신을 면밀히 감시하는 것을 목표로 하는 10명의 중국 청원인을 겨냥한 ‘통제’ 조치를 권고했습니다.

또 다른 지역 국가 보안국은 Claude를 사용하여 해외의 반체제 인사와 인권 단체를 추적했으며, 밴쿠버에서 열리는 친민주화 행진의 집결지 및 경로, 터키의 위구르 문화 행사 장소 등의 정보를 수집하고 이를 바탕으로 부서 내 다른 직원들을 위한 내부 작전 매뉴얼을 작성했습니다.

시리아의 위구르인을 겨냥한 별도의 작전에서는 운영자들이 대량의 그룹 채팅 메시지를 분석하여 재정적 어려움이나 가족 분리와 같은 악용 가능한 취약점을 파악했습니다. 그들은 신장(Xinjiang)에 아직 친척이 있는 사람들에게 특별히 주의를 기울였고, 현지 위구르 무장 단체에 접근할 수 있는 개인들을 대상으로 비밀리에 모집 공세를 펼쳤습니다. 이 보고서는 모집이 성공했는지 여부는 확인하지 않았습니다. 또한 이 작전에는 민간인 위치 파악과 위구르 언론인 탄압 계획도 포함되었습니다.

종교 공동체 역시 감시 대상이 되었습니다. 그 보고서에는 가톨릭, 티베트 불교 공동체, 법륜공(Falun Gong) 수행자, 대만 장로교회 등이 포함되었습니다. 수집된 파일철에는 개인사, 사회적 관계, 그리고 악용 가능한 ‘지렛대(points of leverage)’가 담겨 있었으며, 심지어 종교 시설의 평면도까지 포함되어 있었습니다.

반체제 인사들을 겨냥한 감시 작전 외에도, 해당 보고서는 일부 중국 AI 기업들이 무단 모델 증류(unauthorized model distillation)를 수행하는 과정에서 사용자들의 민감 정보를 노출했다고 밝혔습니다. 이 보고서는 @Alibaba_Qwen, @Moonshot, @deepseek_ai, @ZhipuAI @jietang, 그리고 @XiaomiMiMo를 포함한 7개 중국 AI 기업을 언급하며, 이들이 무단 모델 증류 또는 관련 데이터 수집에 연루되었다고 주장했습니다. 이러한 활동 중 일부에서 사용자들로부터 제출된 민감 데이터가 미국 회사 Anthropic으로 전송되기도 했습니다.

보고서에 따르면, Moonshot은 일부 Kimi 사용자의 요청을 Claude로 전달하고, Claude의 답변을 해당 사용자들에게 다시 제공했으며, 일부 대화 내용을 학습용으로 저장했습니다. 이 자료에는 중국 청두(Chengdu)의 수백 대 카메라에서 얻은 것으로 추정되며, 인민해방군(People’s Liberation Army)과 관련이 있을 가능성이 있는 사용자가 제출한 감시 기록도 포함되어 있었으며, 이는 특정 개인을 추적하는 데 사용되었습니다. 또한 이 자료에는 중국 국영 기업에 근무하는 엔지니어들이 제출한 내부 코드와 활성 접근 자격 증명(active access credentials)도 포함되어 있었습니다.

보고서는 또한 Xiaomi가 사용자 대화 기록과 코딩 세션을 Claude에 제출하여 학습 자료를 생성했다고 밝혔습니다. 이 정보에는 사용자들의 이름, 연락처 세부 정보, 그리고 기업 데이터가 포함되었습니다. 별도로, 중국의 한 지방 공안국(Public Security Bureau)을 위한 사례 관리 시스템을 개발하는 엔지니어들이 DeepSeek을 사용했으며, 그 요청들은 시민들의 국가 신분증 번호를 사용하여 이동 기록을 경찰 기록과 비교하는 도구를 개발하는 데 도움을 주기 위해 Claude로 전달되었습니다.

이러한 공개 내용은 사용자 프라이버시와 AI 안전 표준에 심각한 의문을 제기합니다. 보고서는 무단 증류가 위험한 사이버 또는 생물학적 역량을 강화할 수 있으며, 현재 Claude의 기존 안전 표준은 이러한 과정과 함께 이전되지 않을 것이라고 경고했습니다.

저희 관점에서 볼 때, 미-중 AI 경쟁의 핵심에는 피할 수 없는 문제가 있습니다. 바로 민주주의와 권위주의 간의 제도적 차이가 이 기술이 어떻게 사용될지, 그리고 일반 대중이 그 사용에 대해 거부하고, 의문을 제기하며, 감독을 행사할 수 있는지 여부를 근본적으로 형성할 것이라는 점입니다.

저희는 AI가 중국의 국내 감시 및 ‘안정 유지’ 시스템을 더욱 효율적으로 만드는 데 사용되는 것을 반복해서 목격했으며, 일부 운영은 이미 해외로까지 확장되고 있습니다. 이러한 도구들이 성숙해짐에 따라, 이러한 방법론이 다른 국가들에서 복제되어 더 많은 권위주의 정부들에 의해 채택될 가능성은 우리가 직면해야 할 위험입니다.

저희가 지지하는 민주적 AI는 사람들의 표현의 자유, 사생활 보호, 그리고 스스로 선택할 자유를 보호해야 합니다. 또한 대중이 개발자들에게 책임을 물을 수 있도록 해야 합니다. 모든 기업은 그 행동을 통해 이를 입증해야 합니다. 그러한 남용 사례를 공개적으로 폭로하고 관련된 계정을 금지하는 것은 기업들이 이행해야 할 책임입니다.

Anthropic의 공개에 감사드리며, 이것이 궁극적으로 영향을 받는 사람들의 보호로 이어지기를 바랍니다. 지속적인 억압에 직면하여, 저희는 개방된 정보라는 원칙을 고수할 것이며, 더 많은 사람들이 중국 사회의 현실을 볼 수 있도록 계속 노력할 것입니다.

Team Teacher Li