Meta 보안 연구원, AI 에이전트가 이메일을 실수로 삭제하다

AI 에이전트는 우리의 삶을 더 쉽게 만들어야 하지만, 최근 OpenClaw 에이전트가 메타(Meta) 직원의 이메일을 허가 없이 삭제하는 사건이 발생했다.

메타 AI 보안 및 안전 연구원인 Summer Yue은 이번 주 트위터에 "OpenClaw에게 '행동 전 확인(confirm before acting)'을 지시하고 그것이 받은 편지함을 속도감 있게 삭제하는 것을 보는 것만큼 사람을 겸손하게 만드는 것은 없다"고 올렸다. 그녀는 "내 휴대폰으로는 막을 수 없었다. 마치 폭탄 해체하듯 맥 미니(Mac mini)로 달려가야 했다."

이전에 Clawdbot, 그리고 이후 Moltbot으로 알려졌던 OpenClaw는 AI가 사용자의 장치에 있는 다른 소프트웨어 및 서비스와 상호 작용하고 인간 통제자의 간섭 없이 장기적인 작업을 수행할 수 있도록 한다. 그러나 이러한 에이전트들이 실제 환경에서 예상대로 작동하도록 만드는 것은 까다롭다.

Yue은 후속 트윗에서 OpenClaw에게 "이 받은 편지함도 확인하고 보관하거나 삭제할 것을 제안하되, 제가 지시하기 전까지는 행동하지 마라"고 지시했다고 밝혔다. 이는 그녀의 '장난감 받은 편지함(toy inbox)'에서는 작동했지만, "내 실제 받은 편지함은 너무 커서 압축(compaction)이 발생했고, 그 과정에서 원래의 지침을 잃어버렸다."

Yue은 이 사건이 발생하기 전에 찾을 수 있는 모든 '선제적 행동(be proactive)' 지침들을 삭제했다고 말했다. 그녀는 "혹시 제가 무언가를 놓쳤을 수도 있다. 그것이 아직 파악하지 못한 부분이다"라고 덧붙였다.

일부 댓글 작성자들은 이 움직임으로 인해 그녀가 AI 가드레일(guardrails)을 테스트하고 있을 수 있다고 제안했지만, 그녀는 아니라고 말한다. "알고 보니 알라인먼트 연구원들조차 미정렬화(misalignment)에 면역이 아니라는 것이 밝혀졌다."

실수를 인정하는 것은 칭찬할 만하지만, 다른 사람들은 이것이 메타의 슈퍼인텔리전스 랩(Superintelligence Labs) 소속이 아닌 개인들에게 심각한 우려를 제기한다고 지적했다. AI 개발에 그렇게 깊숙이 관여한 사람이 실수로 받은 편지함 삭제를 유발할 수 있다면, 평범하게 AI에 호기심을 갖는 사용자에게 무슨 일이 벌어질까?

OpenClaw가 처음 공개되었을 때, 위협 인텔리전스 플랫폼 SOCRadar는 OpenClaw를 "특권 기반 인프라(privileged infrastructure)"로 취급하고 추가적인 보안 예방 조치를 구현할 것을 권고했다. 이들은 "집사(butler)는 당신의 집 전체를 관리할 수 있다. 단지 현관문만 잠가두면 된다"라고 말했다.

Yue의 트윗에 대한 응답으로 OpenClaw 창립자 Peter Steinberger가 다음과 같이 트윗했습니다: "이것은 모델이 지원하는 경우, 서버 측 압축(server-side compaction)을 진행해야 한다는 것을 의미합니다." (Steinberger는 최근 OpenAI에 합류했습니다.)

Yue는 현재 직책을 맡은 지 8개월이 되었습니다. 이전에는 Scale AI에서 근무했으며 (인수 후 Meta에 합류), Google DeepMind와 Google Brain에서 AI 연구를 이끌었습니다.