OpenAi Dev Day, Nov 7

OpenAI는 중국에서 운영되는 것으로 판단되는 두 개의 ChatGPT 계정 클러스터를 차단했다고 밝혔습니다. 이들은 미국의 기술 및 정책 논쟁을 겨냥한 비밀 영향력 캠페인에 자사의 모델을 사용했으며, 여기에는 가계 전기 요금 상승의 원인으로 AI 데이터 센터를 비난하는 소셜 미디어 댓글과 만화 연재물을 제작한 “Data Center Bandwagon”이라는 캠페인이 포함되었습니다. 해당 계정 운영자들은 VPN을 통해 간체 중국어로 ChatGPT에 프롬프트를 입력했으며, X(구 트위터)에서 다양한 배경을 가진 미국인인 것처럼 가장했습니다. 그러나 OpenAI의 전체 위협 보고서에 따르면, 이러한 활동이 실제적인 참여(engagement)를 이끌어낸 사례는 거의 없는 것으로 나타났습니다.

두 번째 클러스터인 "Tech and Tariffs"는 트럼프 대통령은 묘사하되 중국 지도자 시진핑은 결코 묘사하지 말라는 지침에 따라 반(anti) 관세 만화를 생성했으며, ChatGPT 사용자 데이터가 도난당했다는 허위 주장을 퍼뜨리는 가짜 X 계정 네트워크와 연결되어 있었습니다.

OpenAI는 Data Center Bandwagon 운영자들이 지방 정부 고객을 위해 일하는 중국 민간 기술 기업의 소셜 미디어 팀일 가능성이 높다고 평가했습니다. 이들은 다른 요청들과 함께, 지역 신문의 보도 내용을 바탕으로 전력망 운영자의 용량 경매(capacity auction) 가격에 관한 만화 연재물을 ChatGPT에 요청했으며, 이후 결과물을 #capacityauction과 같은 해시태그와 함께 합법적인 뉴스 보도 링크와 함께 X에 게시했습니다.

특정 전력망 운영자의 이름이 명시되지는 않았으나, 용량 경매 가격은 실제 기록된 논쟁과 연결됩니다. PJM Interconnection의 독립 시장 감시 기구(independent market monitor)는 미국 최대 전력망 지역의 전력 비용이 75.5%라는 "되돌릴 수 없는" 상승을 기록한 원인으로 데이터 센터를 지목했으며, 일부 데이터 센터 클러스터 인근의 도매 가격은 5년 동안 최대 267%까지 급등했습니다. 이에 세 명의 미국 상원의원은 Amazon, Google, Meta를 대상으로 주거용 고객에게 전가된 비용에 대해 해명을 요구했습니다.

"이것은 논쟁을 유도하기 위한 영향력 행사(influence operation) 사례가 아니었습니다," OpenAI의 수석 조사관인 Ben Nimmo는 말했습니다. OpenAI는 해당 활동을 Breakout Scale의 Category One으로 분류했는데, 이는 해당 활동이 하나의 플랫폼에 머물렀으며 실제 관객에게 도달했다는 증거가 없음을 의미합니다.

'기술과 관세(Tech and Tariffs)' 클러스터는 관세, 희토류, AI, 5G 및 산업 회복력을 둘러싼 미·중 경쟁을 조롱했으며, 영어, 이탈리아어, 일본어, 그리고 대만 관객을 겨냥한 번체 중국어로 대량의 댓글 배치를 생성했습니다. 한 운영자는 해당 계정들을 조직적인 트롤 네트워크를 뜻하는 중국어 용어인 '워수(water army, 댓글 부대)'라고 묘사했으며, ChatGPT에 위험 인물로 표시된 개인들의 소셜 미디어 게시물을 스크래핑(scraping)하고 분석하는 시스템을 설계해 달라고 요청했습니다. OpenAI는 자사의 모델이 일반적인 데이터 저장 관련 조언만을 제공했으며, 수집 작업에 도움을 주는 것은 거부했다고 밝혔습니다. 동일한 X 네트워크 내의 가짜 계정들은 ChatGPT 사용자 데이터가 침해되었다는 허위 주장을 반복적으로 게시했는데, OpenAI는 이를 자사의 평판을 훼손하려는 시도로 판단하고 있습니다.

전체 위협 보고서에서 OpenAI는 해당 캠페인을 2022년의 Spamouflage 작전과 비교했습니다. ASPI와 Mandiant의 연구원들은 중국 정부가 제14차 5개년 계획에서 희토류를 우선순위에 둔 이후, Lynas Rare Earths, Appia, USA Rare Earth를 표적으로 삼은 Spamouflage 작전을 발견한 바 있습니다. 이번 새로운 활동은 AI를 중국의 전략 산업으로 격상시킨 제15차 5개년 계획 권고안의 채택에 뒤이어 나타났습니다.

Tom's Hardware의 최신 뉴스 및 심층 리뷰를 이메일로 직접 받아보세요.

Google Preferred Source

Tom's Hardware를 Google 뉴스에서 팔로우하거나, 기본 소스로 추가하여 피드에서 최신 뉴스, 분석 및 리뷰를 받아보세요.

Luke James는 프리랜서 작가이자 저널리스트입니다. 법률 분야의 배경을 가지고 있지만, 기술 전반, 특히 하드웨어와 마이크로일렉트로닉스(microelectronics), 그리고 모든 규제 관련 사항에 개인적인 관심을 가지고 있습니다.

알겠습니다, 그럼 그들이 러시아 선전 봇, 인상 농사(impression farming) 봇 등을 추적할 예정인가요? 답변 부탁드립니다.

왜냐하면, 정황상 OpenAI는 해당 거래로 인해 손실이 발생한다고 판단될 때만 조치를 취할 것으로 보이기 때문입니다.

또한 중국 봇들이 주로 Twitter를 타겟으로 삼았다는 점도 흥미롭습니다.

그곳은 이제 봇들로 너무 가득 차서, 실제 사람이 작성한 댓글은 1,000개 중 1개 정도나 볼 수 있을 정도입니다.

상황이 너무 심각해서 유튜브(YouTube) 댓글창이 상대적으로 좋아 보일 정도입니다. (둘 다 엉망이고 봇들로 가득 차 있긴 하지만 말이죠)