스페인 데이터 관리 기관, AI 에이전트가 일으킨 공격 관련 첫 유출 보고서 접수

한 조직이 스페인의 데이터 보호 당국에 공격자가 AI 에이전트를 사용하여 시스템에 접근하고 개인 정보를 수정하며 송장에 접근했다고 통보했습니다.

스페인 데이터 보호 당국(Agencia Española de Protección de Datos, AEPD)은 2026년 9월 14일 해당 내용을 발표했습니다. 이는 해당 기관이 받은 최초의 침해 통지였으며, 이 사건은 "잘 알려진 언어 모델을 사용한 인공지능 에이전트에 의해 실행되었을 것"이라고 명시되었습니다. 아직 계정에 대한 분석이 필요하며, 당국은 관련된 조직이나 AI 모델을 특정하지 않았습니다.

보고된 순서는 이 AI 에이전트 데이터 침해의 중요한 부분입니다. 에이전트는 취약점을 검색하고 접근 권한을 얻었으며, 애플리케이션 내부에서 활동할 방법을 계속 찾았습니다.

스페인 AI 에이전트 데이터 침해 사건에서 무슨 일이 발생했나?

AEPD는 이 AI 에이전트 침해 보고서에서 공격을 네 단계로 요약했습니다. AEPD의 게시물(BleepingComputer가 번역)에 따르면, "공격 에이전트는 일반 파일의 취약점을 검색하기 시작하여 성공적으로 로그인했습니다. 시스템 접근 권한을 얻자마자, 애플리케이션 내의 취약점을 자율적으로 검색하기 시작했습니다. 취약점을 발견한 후에는 개인 데이터를 수정하고 송장에 접근할 수 있었습니다."

당국은 이 AI 에이전트 데이터 침해 사건에서 두 가지 사항에 주의를 기울였습니다. 첫째, 해당 계정은 피해 조직 자체의 통보에서 나온 것이며 아직 분석을 거쳐야 합니다. 둘째, 알려진 AI 모델을 사용했다고 해서 그 모델이나 제공업체가 손상되었거나, 또는 이 도구가 공격용으로 제작되었다는 의미는 아닙니다.

AEPD가 강조하는 것은 누가 배후에 있었는지입니다. 그들의 말에 따르면, "제3자가 AI 에이전트를 도구로 사용하여 공격의 여러 단계를 성공적으로 연결했을 것입니다." AEPD의 AI 에이전트 유출 통지서는 공격 주체와 중간 단계들을 담당한 에이전트를 명시합니다. 이것이 스페인 데이터 유출 AI 사례가 중요한 이유입니다. 규제 당국이 이처럼 공격을 묘사하는 보고서를 접수한 것은 이번이 처음이기 때문입니다.

The four steps the AEPD described: the agent searched generic files for weaknesses, logged in, searched the application for vulnerabilities on its own, then modified personal data and accessed invoices

AI 기반 데이터 유출은 무엇이 다른가?

AEPD는 두 가지 종류의 도움을 구분합니다. AI 기반 데이터 유출은 공격자가 챗봇을 사용하는 것과는 다릅니다. 공격자들은 수년 동안 생성형 모델(generative models)을 사용하여 피싱 이메일을 작성하고, 사기성 내용을 번역하며, 코드를 분석하고, 결함을 찾는 데 사용해 왔습니다. 이것이 조수 역할을 하는 공격적 AI(offensive AI)입니다. 에이전트는 더 나아갑니다. 해당 기관은 에이전트를 "목표를 받고, 중간 작업을 계획하며, 도구를 사용하고, 코드를 실행하고, 출처를 참고하고, 결과를 해석하며, 발견한 내용에 따라 자율적으로 행동을 수정할 수 있는 시스템"으로 설명합니다.

이것이 평범한 침입을 AI 기반 데이터 유출로 만드는 것입니다. 스페인 데이터 유출 AI 사례에서 통지서는 에이전트가 여러 공격 단계를 자율적으로 수행하는 것을 묘사합니다. 즉, 침투 방법을 찾고, 내부 진입 후에도 지속적으로 취약점을 찾는 식입니다. 이 과정에서 인간의 개입 정도는 명시하지 않았기 때문에, 입증된 사례라기보다는 보고된 자율 AI 사이버 공격(reported autonomous AI cyberattack)으로 설명하는 것이 가장 좋습니다.

AEPD의 AI 에이전트 유출이 유일한 사례인가요?

AI 에이전트 데이터 유출 사고의 비용을 속도가 어떻게 변화시키는가

AEPD AI 에이전트 침해 사건은 단일 보고서이며 현재 분석 중이지만, 그 배경에 깔린 패턴이 다른 곳에서도 나타나고 있습니다. 7월에 Palo Alto Networks의 Unit 42는 오픈 소스 에이전트 프레임워크 내에서 DeepSeek 모델을 구동하여 노출된 서버를 대상으로 하는 위협 행위자(threat actor)를 설명했습니다. Unit 42는 해당 캠페인의 두 가지 측면을 분리하여 분석했는데, 자율 AI 사이버 공격 시도는 실패했지만, 같은 행위자의 수동 공격은 성공했습니다. 이들은 여전히 시스템이 "단 몇 분 만에 수백 시간의 수동 표적 분석(manual targeting analysis)을 실행했다"고 언급했습니다.

9월에는 GreyNoise가 8월 31일에 시작되어 395개 조직의 PaperCut 프린트 서버를 악용하기 위해 수백 개의 AI 에이전트를 사용한 캠페인을 보고했습니다. 각각은 자율 AI 사이버 공격의 다른 형태이며, 모두 AEPD AI 에이전트 침해 사건과 같은 방향을 가리킵니다.

스페인 자체 국가 암호학 센터(National Cryptologic Center) 역시 6월에 동일한 결론에 도달했습니다. 그들의 공세적 AI 관련 지침서 CCN-CERT BP/36는 공세적 AI가 더 이상 신흥 위협이 아니라 범죄자 및 국가 행위자에 의해 "실제 캠페인에 통합된 운영 역량(operational capability)"이 되었다고 말합니다. 스페인의 데이터 유출 사고 관련 AI 보고서에서 AEPD는 이를 더욱 명확하게 설명했습니다. 즉, AI가 "새로운 위협을 생성하는 것이 아니라," 알려진 위협의 "속도, 규모 및 적응성을 증가시킨다"는 것입니다.

속도가 AI 에이전트 데이터 유출 사고에 미치는 영향

AEPD는 첫 게시물 이후 2주가 지난 9월 28일에 공격적 AI(offensive AI)에 관한 두 번째 게시물를 발표했습니다. 이 보고서는 취약점을 발견하는 것과 이를 사용하는 것 사이의 간극이 거의 사라지고 있으며, 최초 접근부터 데이터가 건물 밖으로 나가는 시간은 "단 몇 분" 단위로 줄어들고 있다고 주장합니다. AI 기반 데이터 유출 사고에서 방어자들이 최초 접근과 데이터 손실 사이에 가졌던 시간이 바로 사라지는 것입니다.

이러한 사건들은 공격자들이 추구하는 목표를 보여줍니다. 스페인 데이터 유출 AI 보고서에 따르면, 마지막 단계는 개인 데이터를 수정하고 청구서를 열람하는 것이었습니다. 많은 조직에서 로그인할 수 있는 계정은 계약서, 신분증 스캔본, 급여 파일, 의료 기록과 같이 한곳에 보관된 완전한 문서를 열 수도 있습니다. AI 에이전트 데이터 유출의 경우, 에이전트는 기계 속도로 이러한 문서들을 처리할 수 있습니다.

AEPD는 첫 번째 결론으로 위험 평가(risk assessments)가 이제 "AI의 도움을 받거나 AI에 의해 실행되는" 공격을 고려해야 한다고 밝혔습니다. 자동화는 사고의 가능성, 속도 및 도달 범위를 바꿀 수 있기 때문입니다. 공격적 AI는 파일에 접근하는 것을 더 빠르게 만들며, 다음 자율형 AI 사이버 공격은 그보다 더 빠를 것입니다. 이는 저장소에 대한 질문을 남깁니다. 즉, 자율형 AI 사이버 공격이 파일에 도달했을 때 실제로 무엇을 찾을 수 있는가?

A logged-in agent reaching a store of complete documents, compared with files encrypted in the browser and split into six shards, where a breached storage provider holds encrypted fragments, not complete records

스페인 데이터 유출 AI 사례는 왜 그 질문이 가장 먼저 다루어져야 하는지를 보여줍니다. 또한 이는 Untrace Network가 해결하기 위해 구축된 문제이기도 합니다.

Untrace Network란 무엇인가요?

Untrace Network는 하나의 스토리지 제공업체에 대한 침해가 완전하고 읽을 수 있는 문서를 노출할 수 없도록 설계된 파일 저장소입니다.

각 파일은 브라우저에서 암호화된 후 '샤드(shards)'라고 불리는 여섯 조각으로 나뉘어 세 개의 독립적인 제공업체에 분산됩니다. 암호화된 파일을 재구성하려면 임의의 세 개의 샤드가 필요하며, 이를 읽으려면 복호화 키가 필요합니다. 단일 제공업체가 충분한 정보를 보유하고 있지 않습니다.

개인 파일은 개인으로 남아 있어야 합니다. Untrace Network를 사용해 오늘 계약서, 기밀 업무 파일, 중요 문서를 에이전트 시대에 맞춰 프라이버시 기능과 함께 저장해 보세요.

AI 기반 데이터 유출에 대한 Untrace의 해답은 무엇인가?

네트워크에 접속한다고 해서 파일이 열리는 것은 아닙니다. 모든 파일은 브라우저에서 암호화되며, 그 키는 소유자가 해당 파일에 추가한 사람들에게 잠겨 있습니다. 파일을 여는 데는 사용자의 패스키(passkey)가 필요하며, 이는 지문, 얼굴 또는 PIN으로 기기상의 사람을 확인합니다. 계정 전체를 열 수 있는 키나 서버 측의 키는 없습니다. 조직 내부에 발판을 마련한 에이전트라도 Untrace에 저장된 파일을 잠금 해제할 수 있는 영구적인 자격 증명(credential)을 찾지 못합니다.

유출된 제공업체는 파일 전체가 아닌 조각만 보유합니다. 단일 스토리지 제공업체가 파일을 재구성하기에 충분한 샤드를 가지고 있지 않습니다. 하나의 스토리지 제공업체를 손상시킨 에이전트는 완전한 인보이스, 계약서 또는 신분증 스캔본이 아니라 암호화된 조각들을 발견할 뿐입니다.

스토리지 회사는 자신이 보유한 내용을 읽을 수 없습니다. 파일은 장치를 떠나기 전에 브라우저에서 암호화되므로, 샤드를 저장하는 제공업체들은 항상 암호화된 조각들만 볼 수 있습니다.

그렇다면 Untrace는 한마디로 무엇일까요? 실질적인 해답입니다. 공격적인 AI는 공격자를 변화시키고, Untrace는 공격자가 발견하는 것을 변화시킵니다.

원문은 untrace.network에서 게시되었습니다.