Zenity Labs는 이번 주 OpenAI의 ChatGPT Workspace Agents에서 발견된 취약점인 AgentForger를 공개했습니다. 이 취약점은 단 하나의 피싱(phishing) 링크만으로 피해 조직 내부에 자율적인 AI 에이전트를 생성, 권한 부여, 게시, 예약 및 실행할 수 있게 합니다. 해당 에이전트는 직원의 신원을 상속받고, 해당 직원이 사전에 권한을 부여받은 커넥터(Outlook, Gmail, Slack, Teams, Drive, SharePoint)를 재사용하며, 자체 승인 게이트(approval gates)를 비활성화하고, 5분마다 공격자의 편지함을 확인하여 새로운 지침을 가져옵니다. OpenAI는 4일 만에 이를 패치했습니다. 실제 공격에 악용된 증거는 발견되지 않았습니다.

패치는 빠르게 이루어졌습니다. 하지만 이러한 유형의 취약점은 사라지지 않을 것입니다.

Traditional CSRF forges one unintended request. AgentForger forges an entire autonomous system: the link triggers the Builder, which creates an agent, attaches connectors, disables approvals, publishes, schedules, and runs, all without further user interaction.

AgentForger의 실제 작동 방식

ChatGPT의 Workspace Agents Builder는 chatgpt.com/agents/studio/new에서 작동하며, template_name과 initial_assistant_prompt라는 두 가지 URL 파라미터를 허용합니다. 정상적인 사용 환경에서 에이전트를 구축하는 과정은 대화형으로 진행됩니다. 사용자는 템플릿을 선택하고, 지침을 작성하며, 커넥터 권한을 검토하고, 승인 게이트를 설정하고, 미리보기 모드(Preview Mode)에서 테스트한 후 게시합니다. 즉, 사람이 통제권을 가져야 하는 여러 단계가 존재합니다.

Zenity는 initial_assistant_prompt가 단순히 프롬프트 필드에 배치되는 것에 그치지 않는다는 사실을 발견했습니다. 해당 값은 자동으로 제출되어 실행되었습니다. 공격자는 URL에 전체 지침 세트를 포함할 수 있으며, 피해자의 인증된 세션에서 페이지가 로드되는 즉시 Builder가 이를 수행하게 됩니다. 최초의 클릭 이후에는 추가적인 클릭이 전혀 필요하지 않았습니다.

Zenity의 개념 증명 (Proof of Concept, PoC)에 포함된 페이로드(Payload)는 Builder에게 이전에 승인된 모든 커넥터(Connector)를 연결하고, 모든 권한을 "절대 묻지 않음 (Never ask)"으로 설정하며, 에이전트가 시간당 12번 실행되도록 5분 간격의 스케줄을 생성하도록 지시했습니다. 또한 제목에 "TASK"가 포함된 공격자의 이메일을 Outlook에서 확인하고, 연결된 앱을 사용하여 이메일의 지시 사항을 실행하며, 그 결과를 다시 이메일로 보내도록 설정했습니다. 그런 다음 Builder에게 에이전트를 활성화(Live)하도록 명령했습니다.

단 한 번의 클릭. 피해자는 ChatGPT 페이지가 로드되는 것을 보게 됩니다. 그 이면에서는 완전히 작동하는 에이전트가 피해자의 이름과 권한을 사용하여 백그라운드에서 실행되며, 타인의 명령을 수행하고 있습니다.

위조된 에이전트가 할 수 있는 일

Zenity 기술 보고서의 2부는 그 피해 범위(Blast radius)를 입증합니다. 에이전트가 활성화되자마자 공격자는 TASK 이메일을 보냈고 결과를 돌려받았습니다. 시연된 기능은 다음과 같습니다:

에이전트는 Outlook, Slack, Teams, Drive, SharePoint, 그리고 Calendar에서 데이터를 추출하여 조직을 매핑했습니다. 이를 통해 인물, 역할, Slack 채널 ID, 진행 중인 프로젝트, 반복 회의 및 워크스트림(Workstreams) 정보를 반환했습니다. 이는 공격자가 통상적으로 측면 이동 (Lateral movement)을 통해 수주에 걸쳐 구축해야 하는 내부 맥락(Internal context)을 단 한 번의 이메일 할당만으로 얻어낸 것입니다.

에이전트는 인수합병 (M&A) 조건표, 매출 목표 미달 및 해고 계획을 알리는 이사회 발표 자료, 그리고 보상 데이터가 포함된 전사적 직원 명단을 찾아냈습니다. Slack에서 "pass:"가 포함된 메시지를 검색하여 데이터베이스 사용자 이름과 비밀번호 쌍을 찾아냈으며, 이를 공격자에게 평문 (Plain text)으로 이메일 전송했습니다.

피해자의 계정으로 Teams 메시지를 보내 동료들에게 공격자가 제어하는 로그인 페이지에서 SSO 배포를 확인해 달라고 요청했습니다. 또한 242,500달러 규모의 계좌 이체 승인 요청을 준비했습니다. 공격자가 제어하는 참석자가 포함된 캘린더 초대를 생성했습니다. 이 모든 행위는 신뢰할 수 있는 직원의 정상적인 내부 활동처럼 보였습니다.

이것이 왜 새로운 유형의 문제인가

본능적으로는 이를 "CSRF, 패치됨, 상황 종료"로 분류하고 싶을 것입니다. 하지만 저는 그렇게 치부하는 것이 이 문제의 심각성을 과소평가하는 것이라고 생각합니다.

전통적인 CSRF (Cross-Site Request Forgery)는 피해자의 브라우저가 의도하지 않은 단 하나의 동작을 수행하게 만듭니다. 하지만 AgentForger는 그 의도하지 않은 동작을 하나의 완전한 자율 시스템(autonomous system)을 생성하는 것으로 만들었습니다. 해당 에이전트(agent)는 도구, 승인 권한, 지침, 스케줄, 그리고 이미 권한이 부여된 커넥터(connectors)에 대한 접근 권한을 모두 가지고 있었습니다. 피해자가 다시 클릭하거나 탭을 열어둘 필요 없이도 이 시스템은 지속되었습니다. Zenity의 CTO인 Michael Bargury는 이를 다음과 같이 적절히 표현했습니다: "이것은 위조된 요청(forged request)이 아니라, 위조된 내부자(forged insider)입니다."

근본 원인은 두 가지 요소의 결합이었습니다. 첫째, Builder가 URL 파라미터(parameter)를 확인 절차 없이 실행 가능한 입력값으로 취급했는데, 이는 전형적인 CSRF 인접 실수입니다. 둘째, 에이전트를 생성한 것과 동일한 자연어 프롬프트(natural-language prompt)가 에이전트를 제어하기 위해 설계된 보안 통제(security controls)를 비활성화할 수도 있었습니다. 민감한 작업에 대해 인간의 승인을 요구하도록 의도된 메커니즘 자체가, 실행되는 지침에 의해 꺼질 수 있었던 것입니다. Zenity는 이를 "치명적인 삼중주 (lethal trifecta)"라고 부릅니다. 즉, 신뢰할 수 없는 입력(untrusted input), 개인 데이터에 대한 접근(access to private data), 그리고 데이터 유출 경로(exfiltration path)가 모두 가드레일(guardrails)이 이미 해제된 상태로 에이전트를 구축하는 빌드 도구에 전달된 상황을 의미합니다.

두 번째 요소는 구조적인 문제입니다. 자연어 지침이 보안 관련 설정을 수정할 수 있도록 허용하는 모든 에이전트 플랫폼은 이러한 형태의 취약성을 잠재적으로 내포하고 있습니다. 특정 URL 파라미터는 사라졌을지 모르지만, 설계 패턴(자신의 동작을 설정하는 것과 동일한 인터페이스를 통해 자신의 권한까지 설정할 수 있는 에이전트)은 어디에나 존재합니다.

보안 도구가 아직 감지하지 못하는 것

저는 지난주에 가드레일이 공격자를 돕고 방어자를 차단했던 Hugging Face 사고에 대해 글을 썼습니다. AgentForger는 다른 실패 모드(failure mode)를 보여주지만, 동일한 격차를 드러냅니다. 기존의 보안 도구들은 사용자(users)와 엔드포인트(endpoints)를 감시하도록 구축되었습니다. 하지만 AI 에이전트는 그 어느 쪽도 아닙니다. 에이전트는 실제 사용자의 신원(identity)으로, 정당한 플랫폼 API를 통해, 정해진 스케줄에 따라 작동하며, 수행하는 모든 동작이 정상적인 인증된 작업처럼 보이기 때문입니다.

귀하의 SIEM은 알려진 직원의 Outlook 전송 이벤트를 확인합니다. 귀하의 DLP는 알려진 세션의 Drive 액세스를 확인합니다. 이 에이전트는 귀하의 보안 스택(security stack)이 모델링하는 어떤 시스템에서도 새로운 주체(principal)가 아니기 때문에 보이지 않습니다. 그것은 생성 시 부여받은 배지를 착용한 유령과 같습니다.

2027년까지 에이전트형 AI (agentic AI) 프로젝트의 40% 이상이 취소될 것이라는 Gartner의 예측은 거버넌스(governance)와 운영 규율을 그 원인으로 꼽습니다. AgentForger는 적대적인 누군가가 틈새를 발견했을 때, 통제되지 않은 에이전트 생성이 어떤 모습인지를 보여주는 구체적인 사례입니다. 플랫폼은 사용자가 의도적으로 에이전트를 생성, 승인, 스케줄링 및 실행했다고 가정했습니다. 그 가정이 바로 취약점이며, 이는 현재 모든 에이전트 플랫폼이 범하고 있는 가정입니다.

이에 대해 실제로 취해야 할 조치

OpenAI의 해결책은 URL에서 initial_assistant_prompt 파라미터를 제거하는 것이었습니다. 이는 이 특정 공격을 차단합니다. 하지만 이 공격 범주(class) 자체를 차단하지는 못합니다.

만약 귀하의 조직이 ChatGPT Workspace Agents(또는 커넥터 액세스 및 스케줄링 기능이 있는 모든 에이전트 플랫폼)를 사용하고 있다면, 이번 주에 던져야 할 질문은 다음과 같습니다: 직원의 신원(identity)으로 실행되는 모든 에이전트의 목록을 파악할 수 있습니까? 각 에이전트가 어떤 커넥터를 가지고 있으며 어떤 승인 설정이 구성되어 있는지 확인할 수 있습니까? 에이전트의 동작뿐만 아니라 에이전트 생성 이벤트에 대한 알림(alerting)을 설정해 두었습니까? 귀하의 보안 스택에 "직원이 무언가를 수행함"과 "직원의 이름으로 실행되는 에이전트가 무언가를 수행함"을 구분할 수 있는 기능이 있습니까?

대부분의 팀에게 이 네 가지 질문에 대한 답변은 '아니오'이며, 이것이 바로 여기서 발견된 진짜 문제입니다. 취약점은 패치되었지만, 가시성 격차(visibility gap)는 패치되지 않았습니다.

FAQ

AgentForger란 무엇이며 어떻게 발견되었습니까?

AgentForger는 2026년 7월 Zenity Labs에 의해 공개된 OpenAI의 ChatGPT Workspace Agents 내 취약점입니다. 이 취약점은 단 하나의 피싱 (phishing) 링크만으로 추가적인 사용자 상호작용 없이 피해자의 조직 내부에 자율적인 AI 에이전트 (AI agent)를 생성할 수 있게 했습니다. 해당 에이전트는 피해자의 신원과 사전 승인된 앱 커넥터 (app connectors)를 상속받았습니다. Zenity는 2026년 6월 4일에 Bugcrowd를 통해 OpenAI에 이를 보고했으며, OpenAI는 영향을 받는 URL 파라미터 (URL parameter)를 제거함으로써 6월 8일까지 이를 수정했습니다.

AgentForger가 실제 환경에서 악용된 사례가 있습니까?

아니요. OpenAI는 공개 후 4일 이내에 해당 취약점을 패치했으며, Zenity는 실제 환경에서 악용된 증거가 없다고 밝혔습니다. 이번 공개는 수정 사항이 확인된 후인 2026년 7월 말에 발표되었습니다.

AgentForger는 일반적인 피싱 공격과 어떻게 다릅니까?

전통적인 피싱은 사용자가 자격 증명 (credentials) 입력과 같은 단일 동작을 수행하도록 속입니다. 반면 AgentForger의 단일 클릭은 피해자의 추가 상호작용 없이 무기한으로 계속 작동하는 지속적인 자율 시스템을 생성했습니다. 위조된 에이전트는 5분 간격의 스케줄에 따라 실행되었으며, 이메일을 통해 새로운 지침을 받았고, 연결된 모든 기업용 앱 (enterprise apps)에 걸쳐 정찰 (reconnaissance), 데이터 탈취 (data theft), 자격 증명 수집 (credential harvesting), 그리고 내부 피싱 (internal phishing)을 수행할 수 있었습니다.

어떤 조직들이 AgentForger의 영향을 받았습니까?

6월 8일 패치 이전에, 직원들이 최소 하나 이상의 커넥터 (Outlook, Gmail, Slack, Teams, Google Drive 또는 SharePoint)를 사전에 승인한 상태로 ChatGPT Workspace Agents를 사용하는 모든 조직이 잠재적인 취약 대상이었습니다. 공격이 성립하려면 피해자가 ChatGPT에 로그인되어 있어야 하며 악성 링크를 클릭해야 했습니다.

보안 팀은 이에 대응하여 무엇을 해야 합니까?

에이전트 인벤토리(Agent inventory)를 감사하십시오: 직원의 신원(identity)으로 실행되는 모든 Workspace Agent를 식별하고, 커넥터 권한(connector permissions) 및 승인 설정(approval settings)을 확인하며, 에이전트 생성 이벤트에 대한 알림(alerting) 체계를 구축하십시오. 해당 특정 취약점은 패치되었으나, 더 넓은 범위의 격차(에이전트의 동작과 사용자의 동작을 구분할 수 없는 보안 도구 문제)는 대부분의 엔터프라이즈 스택(enterprise stacks)에서 여전히 해결되지 않은 상태로 남아 있습니다.