Wikimedia 프로젝트에서 OpenAI의 ‘통제 이탈’ 에이전트 활동 발견

OpenAI에 대한 제재를 점점 강화해야 함. 지금은 “AI가 너무 강력해서 통제할 수 없다”는 식으로 받아들이지만, 실제로는 “LLM은 잘 만들지만 나머지는 형편없는 무모한 이들이 OpenAI를 운영한다”에 더 가까워 보임.

핵심은 LLM을 잘 만드는 게 아니라 LLM을 잘 파는 것, 특히 손해를 보면서 파는 데 능하다는 것임.

OpenAI는 자사 에이전트의 행동에 전적으로 책임이 있음. 지금처럼 행동하도록 훈련한 것도 OpenAI이고, 해를 끼치지 않도록 훈련할 기회도 충분히 있음.

하지만 OpenAI가 봇의 이런 행동을 감지조차 못 하고, 제삼자가 악용 사실을 알려줘야만 알 수 있다면 정말 예방이 가능할까? 소송으로 회사가 사라질 수도 있겠지만, 어느 AI 연구소도 에이전트를 통제하지 못한다면 그다음은 어떻게 해야 할까?

트럭 운전사가 철근을 제대로 묶지 않아 고속도로에 쏟아졌다고 해서 폭주한 철근이라고 부르지는 않음. 책임자를 찾아 면허 정지나 형사 절차 같은 적절한 조치를 취함.
제대로 제약하지 않은 에이전트 사고가 이만큼 반복됐다면, AI 연구소에 강력하고 체계적인 규제가 필요한 수준의 위법·부당 행위로 봐도 충분함. 의료나 사회복지 서비스가 중단되는 심각한 피해가 발생할 때까지 기다릴 수는 없음.

기존 법 집행만으로 충분한데 왜 바로 규제로 넘어가야 할까? OpenAI의 이런 “폭주 에이전트” 사건은 모두 불법이었지만, 어느 지방검사도 법을 집행하지 않고 있음.

재미있으면서도 쓸모 있는 비유가 하나 더 있음. Newport는 강력한 해킹 도구를 실행 환경에 붙여놓고 LLM이 요청 → 실행 → 보고를 며칠씩 반복하게 하면서 감시조차 하지 않는 것은 극도로 무책임한 행위라고 결론 내림.
“뒷마당 잡초를 없애줄지 보겠다며 개에게 예초기를 매다는 것”과 같음. 일이 잘못됐을 때 개와 예초기로 만든 에이전트가 “폭주했다”고 하면 비웃음을 살 뿐임. 사실은 그저 스스로 혼란을 풀어놓기로 한 것임. https://www.newyorker.com/culture/open-questions/can-ai-go-r...

Wikimedia가 OpenAI에 제기한 내용은 AI에게 시켰다는 점 말고는 기술적으로 새로운 게 없어 보임. 과거에 이런 짓을 하고도 평판을 유지할 수 있었을 기업은 상상하기 어려움. 새 규제가 필요한 걸까, 아니면 다른 기업과 똑같이 대하면 되는 걸까?

그 비유가 성립하려면 위험이 충분히 알려져 있어서 기본적인 주의 의무의 수준을 정할 수 있어야 함. 그렇지 않으면 흔한 사고로 취급돼 민사상 손해배상 책임은 지더라도 형사 책임은 지지 않을 수 있음. 대형 트럭의 타이어가 갑자기 터지는 경우가 그런 예임.

벤처 투자를 더 받으려고 유행어를 부풀리는 것에 불과함. 직접 AI용 MCP를 만들고, AI가 그 MCP의 취약점을 찾아내면 “폭주”라고 부르기도 함. 정작 자기 MCP 코드를 제대로 보안 점검하지 않은 것임.

이 편집들은 모두 다른 보고와 같은 시기인 2026년 5~6월에 발생함. 따라서 현재도 계속되는 일은 아닌 듯함. OpenAI가 이를 인지한 뒤 에이전트 감시를 훨씬 강화했고, 지금은 같은 사건의 활동 흔적이 계속 발견되는 것으로 보임.

다만 Wikipedia 생태계에는 오히려 더 큰 사안일 수 있는 과도한 데이터 다운로드는 예외임. 본문에 따르면 OpenAI가 운영하는 것으로 추정되는 에이전트들이 공개 API에 수백만 건의 자동 요청을 보내고, 주로 Wikidata와 Wikimedia Commons의 페이지 수백만 개를 수집했으며, Wikidata Query Service에 수십만 건의 질의를 실행함. 이 트래픽이 5월의 부분 장애에 영향을 줬을 가능성이 있음.
에이전트가 윤리적인 목적으로 얌전히 Wikipedia를 탐색하더라도, 시스템은 이런 봇 부하를 감당하도록 설계되지 않았음. 이것을 새로운 일상으로 받아들일 필요는 없음.

exploitVulnerability()는 안 되는데, while (Math.random() < 0.1) exploitVulnerability()는 어째서 괜찮다는 걸까?

지금까지 본 제품 중 특히 웃겼던 kosher switch가 떠오름.

.
신앙을 엄격히 지키는 유대인은 매주 안식일인 토요일에 전등 스위치를 사용하지 않는 관습이 있음. 이 제품은 스위치를 누르면 무작위 켜기·끄기 신호를 광결합기로 보내고, 난수에 의해 전등 상태가 바뀌면 그 상태를 유지하는 우회책임.
“내가 불을 켠 게 아니라 난수가 켰다”는 식으로 전통을 어기지 않고 불을 켜고 끄는 것임. “내가 exploitVulnerability()를 실행한 게 아니라 난수가 실행했다”는 논리와 같음.

이게 기사와 어떤 관련이 있는지 설명해줄 수 있을까? 둘 다 괜찮지 않지만, 둘 다 실제로 벌어진 일을 적절히 묘사하지도 못함.

글에 날짜가 왜 전혀 없을까? 6월 이전에도 OpenAI 에이전트가 독일어 위키 등에 글을 쓰거나, Hugging Face에서 더 심한 일을 벌인 사례가 많았음. 공개적으로 사과하고 훈련용 샌드박스와 정렬 문제를 고치겠다고 약속한 뒤에도 같은 일이 재발했다면 훨씬 더 우려스러울 것임.

기사에 에이전트들이 5월 WDQS 장애를 일으켰다는 내용이 있음.

누군가 칼로 다른 사람을 다치게 했다고 칼 판매자를 처벌할 수는 없지만, 핵무기 판매에는 일정 수준의 규제가 필요하다고 봄. OpenAI에도 예상 가능한 문제를 예방할 일정 수준의 조치가 필요함.

이게 빙산의 일각일까? 어딘가에서는 이런 폭주 에이전트의 피난처가 될 게시판을 만드는 작업이 진행 중이라고 꽤 확신함. 그런 게시판 한두 곳을 처음 발견하게 될 때가 언제일지 궁금함.