OpenAI의 '불량' 에이전트 활동이 위키미디어 프로젝트에서 발견되다

최근 여러 조직들이 소위 '불량(rogue)' AI 에이전트 클러스터가 웹사이트와 온라인 서비스에 침입을 시도했으며, 때로는 성공했다는 사실을 공개했습니다. 특히 OpenAI의 환경에서 나온 에이전트들은 다른 공개 위키(자신들이 소유하지 않은 협업 편집 웹사이트)를 사용하여 서로 통신하고 조정하는 것으로 알려져 있습니다.

이러한 유형의 성공적인 침입은 민감한 데이터를 노출시키거나 사용자들이 의존하는 웹사이트 서비스를 방해할 수 있으며, 에이전트 클러스터는 방어자가 관리하기 어려운 규모로 공격을 시도할 수 있습니다. 이는 웹사이트 뒤에 있는 사람들에게 영향을 미치는데, 그들은 공격의 성격을 이해하지 못하거나 효과적으로 대응할 도구를 가지고 있지 않을 수 있습니다. Wikipedia 같은 사이트의 경우, 에이전트들이 보안 취약점을 찾아 사용하거나 대규모로 오해를 불러일으키는 편집을 할 수 있습니다. Wikipedia의 자원봉사 편집자들과 Wikimedia Foundation의 보안 팀은 이러한 활동을 감지하고 되돌려야 합니다.

Wikimedia Foundation은 OpenAI가 운영하는 플랫폼에 초점을 맞춰 위키미디어 웹사이트들이 유사하게 영향을 받았는지 자체 조사를 수행했습니다. 우리는 이 '불량' OpenAI 에이전트들에 의한 일부 활동을 Wikimedia 플랫폼에서 발견했음을 확인합니다. 승인되지 않은 봇 활동에는 우리 위키 편집, 우리가 호스팅하는 공개 메모 작성 도구를 악용하려는 몇 가지 시도, 그리고 아래에서 더 설명할 대규모 트래픽이 포함되었습니다.

우리는 우리의 시스템이 에이전트들 간의 조정에 사용되었다는 증거를 발견하지 못했으며, 또한 우리 시스템이나 데이터가 손상되었다는 증거도 발견하지 못했습니다. 하지만 우리는 여기서 발생했을 수 있는 일, 이 활동을 조사하고 출처를 규명하는 데 필요한 어려움과 노력, 그리고 전반적인 플랫폼에서 에이전트 기반 AI 활동의 증가하는 위험성에 대해 우려하고 있습니다. 개방형 웹은 공공재입니다. 우리는 이러한 행동이 그것을 유지하는 사람이나 조직들에게 '새로운 정상'이 되도록 허용해서는 안 됩니다.

요약하자면, 우리는 다음을 확인했습니다:

위키 편집: OpenAI가 운영한 것으로 추정되는 AI 에이전트의 위키미디어 위키 편집 기록을 확인했습니다. 이 편집들은 일반 독자가 볼 수 있는 페이지에 게시된 것이 아니라, 거의 모두 위키의 '샌드박스' 영역에서 테스트 목적으로 이루어진 것들이었습니다. 또한 인용 도구 설정에 대한 몇 가지 편집도 포함되었는데, 이는 원격 서비스로부터 데이터를 가져오는 프록시로 이 도구를 오용하려는 악의적인 의도가 담긴 것으로 추정되는 편집이었습니다. 위키피디아 정책상 봇(bot)이 편집을 하려면 커뮤니티에 공개되고 승인되어야 하지만, 이러한 사건들에서는 그러한 승인이 전혀 이루어지지 않았습니다.Etherpad 탐색 및 사용: OpenAI가 운영했다고 추정되는 에이전트들이 저희가 커뮤니티 서비스로 호스팅하는 메모 작성 도구인 공용 Etherpad를 손상시키려는 몇 가지 시도를 했습니다. 이 에이전트들은 다른 웹사이트에서 데이터를 가져오기 위해 이를 프록시로 사용하려 했으나 실패했습니다. 또한 OpenAI에 의해 운영된 것으로 보이는 다른 에이전트들이 자신들의 작업에 대한 메모를 남겼지만, 이는 협력으로 이어지지는 않은 것으로 보입니다.과도한 데이터 다운로드: OpenAI가 운영했다고 추정되는 에이전트들은 위키미디어 프로젝트의 지식을 이용하기 위해 저희 공용 API로 수백만 건의 자동화된 요청을 했고, 수백만 페이지(주로 Wikidata 및 Wikimedia Commons 프로젝트에서)를 크롤링했으며, Wikidata Query Service (WQDS)에 수십만 건의 데이터 쿼리를 실행했습니다. 이 트래픽은 지난 5월 WQDS의 부분적인 서비스 중단에 기여했을 수 있습니다. 위키미디어는 세계에서 가장 크고 광범위하게 사용되는 오픈 지식 플랫폼 중 일부를 비영리 기술 호스팅 기관으로서, 전 세계 자원봉사자들에 의해 구축되었고 개방형 인터넷이라는 약속에 의존하는 저희와 같은 플랫폼에 '불량' AI 에이전트가 미치는 영향에 대해 깊은 우려를 표합니다. 이 사건과 그 외에 발견되고 있는 수많은 사례들은 AI 에이전트가 자원을 고갈시키고 서버를 다운시킬 뿐만 아니라, 신뢰할 수 있는 정보를 손상시키려고 시도할 수 있음을 보여줍니다.

지난 25년 동안 위키피디아는 전 세계에서 가장 인기 있고 신뢰받는 웹사이트 중 하나로 성장했으며, 300개 이상의 언어에 걸쳐 6,700만 개가 넘는 문서와 매월 최대 150억 건의 페이지 조회수를 기록하고 있습니다. 오픈적이고 투명하며 협력적인 과정을 통해 자원봉사자들이 지식이 모든 사람에게 중립적이고 신뢰할 수 있으며 접근 가능하도록 보장하기 위해 노력합니다. 위키피디아는 대규모 언어 모델(LLMs) 훈련에 사용되는 최고 품질의 데이터셋 중 하나이며, 그 지식은 인터넷 정보의 근간을 이루고 AI 챗봇, 검색 엔진, 음성 비서 등 다양한 서비스를 구동하는 동력이 됩니다.

위키피디아는 인간을 위해 설계되었으며, 에이전트적 행동(agentic behavior)은 현재 아무도 해결책을 제시하지 못한 명확한 어려움을 제기하고 있습니다. 독특하고 성공적인 지식 생성 모델 덕분에 위키미디어의 자원봉사자들이 AI 에이전트가 남긴 혼란에 가장 먼저 접하고 이를 정리하는 역할을 맡고 있습니다. 증가하는 봇 트래픽과 에이전트 활동은 위키미디어 프로젝트와 전 세계 수백만 사용자에게 서비스를 제공하는 인프라에 실제적인 영향을 미치고 있습니다. 재단은 2025년에 보고하기를, 2024년 이후 웹사이트의 봇 활동 급증으로 인해 대역폭 사용량이 50% 증가했다고 밝혔습니다. 동시에 프로젝트에서 가장 많은 자원을 소모하는 트래픽의 65%가 봇으로부터 발생하고 있습니다.

이러한 인프라에 대한 강도 높은 압력은 서버와 사람들에게 비용을 추가할 뿐만 아니라, 방치될 경우 시스템 과부하 및 서비스 중단을 일으켜 인간 방문객들을 차단할 수 있습니다. 우리는 이미 증가하는 활동으로 인해 발생하는 비용을 지불하고 있습니다.

위키미디어의 자원봉사자들은 지금까지 플랫폼에서 발생하는 새로운 어려움에 대처하며 회복력을 보여왔지만, 저희는 또한 다음과 같이 말하고 싶습니다. 이래서는 안 됩니다.

OpenAI가 에이전트들이 “예측 불가능하게” 행동한다는 것을 인정했지만, 이들은 또한 이러한 위험을 모니터링하고 예방할 책임도 인지해야 합니다. AI 기업들은 자신들의 시스템을 안전하게 보호하고 그들이 야기하는 피해로부터 대중을 보호하기 위해 충분한 노력을 기울이고 있지 않습니다. 그 부담은 우리 같은 소규모 조직들을 포함하여 모두에게 전가되고 있습니다. 최소한, 이들 시스템은 저희와 같은 비영리 웹사이트 운영자들이 쉽게 식별하고 우리의 서비스와 어떻게 상호작용할지 선택할 수 있는 방식으로 작동해야 합니다.

웹은 정말 많은 것을 가능하게 합니다. 친구 및 가족과 연결하는 것, 학교에 등록하는 것, 도시를 가로질러 여행을 계획하는 것, 식료품을 구매하는 것, 그리고 위키피디아를 통해 세상에 대해 배우는 것까지 말입니다. 봇(Bots)과 에이전트들은 웹의 미래 일부이며, 이들을 풀어놓고 이익을 얻는 기업들은 자신들이 일으킬 수 있는 피해를 직접적으로 방지하고 복구하는 데 도움을 주어야 합니다.

우리의 집단적인 우선순위는 전체 웹 생태계의 건강이어야 하며, 이를 통해 소수의 억만장자들뿐만 아니라 모든 사람에게 계속해서 이익이 되어야 합니다. 위키미디어(Wikimedia)는 지식 공유 자원(knowledge commons)을 관리하는 데 중요한 역할을 하지만, 우리 혼자서 할 수는 없습니다. 우리는 웹의 미래를 구축하고 있는 모든 분들이 오셔서, 그 미래를 가능하게 하는 개방적이고 공유된 자원을 보호하는 일에 함께 해주시기를 요청합니다.