중국 연계 영향력 공작이 미국의 AI 논쟁을 겨냥하고 있습니다

우리의 미션은 인공 일반 지능 (AGI)이 인류 전체에 이익이 되도록 보장하는 것입니다. 우리는 민주적 AI (Democratic AI)를 구축하기 위해 혁신 기술을 배치함으로써 이 미션을 추진합니다. 여기서 민주적 AI란 민주적 원칙에 의해 형성되고, 상식적인 규칙에 의해 관리되며, 사람들을 실질적인 해악으로부터 보호하는 동시에 어려운 문제들을 해결할 수 있도록 돕기 위해 설계된 AI를 의미합니다. 또한 이러한 미션에는 권위주의 정권과 그 대리인들이 비판자들을 강압하거나, 공동체를 감시하거나, 민주 사회에 은밀하게 개입하기 위해 AI 시스템을 사용하려는 시도를 식별하고 차단하는 작업도 포함됩니다.

본 보고서에서 우리는 미국의 AI 및 광범위한 기술 정책에 관한 정당한 논쟁을 조작하려는 시도로서 특정 내러티브를 홍보하는 은밀한 영향력 공작 (Covert influence operations)을 지원하기 위해 당사의 모델을 사용한, 중국에서 기원했을 가능성이 높은 두 개의 ChatGPT 계정 클러스터를 설명하며, 이들을 차단했습니다.

첫 번째 클러스터는 AI를 위한 데이터 센터 구축이 일반 가정의 전기 요금을 인상시키고 있다고 주장하는 소셜 미디어 댓글과 이미지를 생성했습니다. 우리는 이 클러스터를 “데이터 센터 밴드왜건 (Data Center Bandwagon)” 캠페인이라고 명명했습니다.

두 번째 클러스터는 미국의 관세가 기술 경쟁을 지배하려는 시도라고 비판하는 댓글과 이미지를 생성했으며, 프롬프트 (Prompt)에 출력 내용에 중국 지도자 시진핑 (Xi Jinping)을 포함하지 말고 대신 트럼프 (Trump) 대통령만을 포함하도록 명시했습니다. 이 클러스터는 ChatGPT 사용자 데이터가 유출되었다고 주장하며 OpenAI를 겨냥했을 가능성이 있는 비정상적인 소셜 미디어 계정 네트워크와 연결되어 있었습니다. 이러한 주장은 완전히 허위였습니다. 우리는 이 두 번째 클러스터를 “기술과 관세 (Tech and Tariffs)” 캠페인이라고 명명했습니다.

OpenAI와 미국의 데이터 센터 구축을 겨냥한 이번 행위가 중요한 이유는, 이 작전이 여론을 변화시킨 것처럼 보이기 때문이 아니라, 중국(PRC) 출신의 영향력 행사 운영자들이 미국의 기술적 리더십, 경제 성장, 그리고 더 넓은 민주적 AI 생태계의 토대인 AI 인프라를 대상으로 내러티브 (Narrative)를 테스트하고 있음을 보여주기 때문입니다. 이 작전은 에너지 가격과 데이터 센터 개발의 지역적 영향에 대한 기존의 대중적 우려를 이용하고 증폭시키려 시도했으나, 우리는 해당 활동 자체를 넘어선 유의미한 돌파구(breakout)의 증거는 발견하지 못했습니다. 외국 영향력 작전은 기존의 지역적 이슈와 진심 어린 신념에 편승하여, 이를 통해 신뢰성을 구축하거나, 분열을 증폭시키거나, 대중의 불신을 악화시키려는 시도를 오랫동안 해왔습니다. 이번 사례의 경우, 운영자들은 자신들이 누구인지, 그리고 무엇이 그들을 움직이는지를 숨긴 채 미국의 AI 역량의 미래에 관한 진행 중인 논쟁에 은밀하게 개입하려고 시도했습니다.

이러한 조사 결과를 공개함으로써, 우리는 산업계, 정부, 시민 사회 및 대중이 외국 위협 행위자들이 정당한 공공 토론을 조작하고, 민주적 제도를 약화시키며, AI의 특성을 활용한 전체주의(Totalitarianism) — 즉 감시, 검열, 그리고 정치적·사회적·사적 삶에 대한 통제를 위해 AI를 사용하는 것 — 를 추진하려는 시도를 더 잘 식별하고 차단할 수 있도록 돕는 것을 목표로 합니다.