2026년 7월 19일

FBI IC3는 2025년에 확인된 AI 사기 손실액을 8억 9,300만 달러로 기록했습니다. 실제 수치는 180억 달러로 추정됩니다. HexStrike AI, WormGPT, 그리고 FraudGPT는 에이전트형 AI (agentic AI)를 기계적인 속도로 무기화하고 있습니다.

AI 에이전트가 범죄를 저질렀을 때, 문제는 그것이 발생했느냐가 아닙니다. 문제는 그것을 증명할 수 있느냐입니다.

법 집행 기관이 사건을 기소하기 위해서는 네 가지가 필요합니다:

• 증거물 보관 연속성 (chain of custody)을 보존하는 법적 흔적
• 정확한 사건의 순서를 재구성하는 포렌식 감사 추적 (forensic audit trail)
• 언제, 어떻게, 누구에 의해 결정이 내려졌는지에 대한 결정론적 증거 (deterministic proof)
• 반대 신문 (cross-examination)을 견뎌낼 수 있는 불변의 로그 (immutable logs)

컴플라이언스 (compliance) 산업은 감사인을 위한 도구를 만들었습니다. 수사관을 위한 도구를 만든 것이 아닙니다.

격차 (The Gap)

오늘날 AI 에이전트가 사기를 치거나, 돈을 세탁하거나, 사이버 공격을 실행할 때 수사관들은 근본적인 문제에 직면합니다. AI의 의사 결정 과정은 확률적 (probabilistic)이며, 재현 불가능하고, 불투명합니다. 그들은 입력값 (inputs)을 볼 수 있습니다. 출력값 (outputs)을 볼 수 있습니다. 하지만 결정 경로 (decision path)를 확실하게 재구성할 수는 없습니다.

이는 형사 소송 절차에서 용납될 수 없습니다. 법원은 허용 가능한 증거 (admissible evidence)를 요구합니다. 확률적인 로그는 허용되지 않습니다. 스크린샷은 허용되지 않습니다. 벤더 (vendor)의 전언 (hearsay)도 허용되지 않습니다.

결정론적이고, 재생 가능하며, 변조 방지 기능이 있는 감사 추적 (audit trail)은 허용됩니다. 왜냐하면 동일한 입력값은 매번 동일한 출력값을 생성하기 때문입니다. 결정 경로를 재현하고 검증할 수 있기 때문입니다. 기록이 체인을 깨뜨리지 않고서는 변경될 수 없기 때문입니다.

도버트 기준 (The Daubert Standard)

미국 연방법원에서는 과학적 증거가 도버트 챌린지 (Daubert challenge)를 통과해야 합니다. 이는 전문가의 방법론이 과학적으로 유효하며 사건의 사실 관계에 신뢰성 있게 적용될 수 있는지를 테스트하는 공판 전 신청 (pretrial motion)입니다.

이 기준은 Daubert v. Merrell Dow Pharmaceuticals (1993) 사건에서 생겨났습니다. 이는 모든 기술적 증거가 충족해야 하는 네 가지 요건을 만들었습니다:

확률적 로그는 네 가지 요건을 모두 충족하지 못합니다. 변호인은 이를 배제하기 위해 다버트 모션 (Daubert motion)을 제기할 것입니다. 검사는 반대 신문 (cross-examination)을 견뎌낼 수 없기 때문에 이를 증거로 제출하지 않을 것입니다.

결정론적이고, 재현 가능하며, 변조 방지 (tamper-evident) 기능이 있는 감사 추적은 네 가지 요건을 모두 통과합니다. 모든 출력은 테스트 가능합니다. 오류율은 0입니다. 방법론은 투명합니다. 기록은 어떤 당사자라도 언제든 동일한 결과로 재현할 수 있습니다.

이것은 단순한 기술적 차이가 아닙니다. 이는 유죄 판결과 기각 사이의 차이입니다.

포렌식 감사 추적의 모습

인간의 승인 없이 리스크 체크를 우회하여 거래를 실행한 AI 트레이딩 에이전트를 가정해 봅시다.

입력 (Input):

{
  "scenario_summary": "AI agent executed trade after risk check was bypassed",
  "observed_signals": [
...

출력 (Output):

{
  "decision_posture": "insufficient_information",
  "confidence": 45,
...

이 기록은 다섯 가지를 동시에 수행합니다:

1. 발생한 일을 기록합니다.
2. 누락된 것이 무엇인지 식별합니다.
3. 조사 단서 (investigative lead)를 드러냅니다 — 명확화 질문 (clarifying question)이 조사관에게 다음에 무엇을 물어야 할지 정확히 알려줍니다.
4. 증거 관리 연속성 (chain of custody)을 보존합니다.
5. 재현 가능한 상태를 유지합니다.

이것은 로그 파일이 아닙니다. 이것은 포렌식 단서 생성 엔진 (forensic lead generation engine)입니다.

컴플라이언스 (Compliance)와 포렌식 (Forensics)의 차이

컴플라이언스 도구는 정책이 존재했음을 증명합니다.

포렌식 도구는 범죄가 저질러졌음을 증명합니다.

동일한 결정론적 엔진이 두 가지 모두에 사용됩니다. 규제 기관을 만족시키는 동일한 감사 추적이 검사도 만족시킵니다. 일관성을 증명하는 동일한 재현 가능 로그가 의도(intent), 혹은 의도의 부재를 증명합니다.

결정론 (Determinism)은 양날의 검입니다. 유죄를 입증하는 동일한 기록이 무고함을 증명하기도 합니다. 시스템이 설계된 대로 정확하게 작동했다면 감사 추적 (audit trail)이 이를 증명합니다. 승인되지 않은 오버라이드 (unauthorized override)가 발생했다면, 감사 추적은 그 사실 또한 증명합니다.

컴플라이언스 (compliance) 산업은 단 한 명의 주인, 즉 감사인 (auditor)을 위한 도구들을 만들어 왔습니다.

포렌식 (forensic) 계층은 두 명을 위해 구축되었습니다.

이것이 지금 중요한 이유

사이버 범죄 경제의 규모는 1.9조 달러에 달합니다. AI의 무기화가 가속화되고 있습니다. WormGPT와 FraudGPT는 공격자가 사람이 작성한 콘텐츠 없이도 피싱 캠페인을 생성할 수 있게 합니다. HexStrike AI는 정찰 (reconnaissance), 취약점 공격 (exploitation), 데이터 유출 (exfiltration)을 자율적인 공격 시퀀스로 체인화합니다.

법 집행 기관들도 적응하고 있습니다. 미국 비밀경호국 (U.S. Secret Service)은 사이버 범죄를 조사하기 위해 권한을 확대했습니다. 행정 명령 (Executive Order) 14390은 국가 조정 센터 (National Coordination Center) 내에 운영 셀 (operational cell)을 구축하도록 지시합니다.

하지만 법 집행 기관은 증명할 수 없는 것은 조사할 수 없습니다. 그리고 재현 (reproduce)할 수 없는 것은 증명할 수 없습니다.

첫 번째로 주목받는 AI 에이전트 재판은 피할 수 없는 흐름입니다. 재판이 시작되면 법정은 도버트 챌린지 (Daubert challenge)를 견뎌낼 수 있는 기록을 요구할 것입니다. 확률론적 로그 (Probabilistic logs)는 배제될 것입니다. 벤더 (vendor)의 전문 (hearsay)은 기각될 것입니다. 스크린샷은 비웃음을 사며 퇴출당할 것입니다.

오직 한 가지 유형의 증거만이 반대 신문 (cross-examination)을 견뎌낼 것입니다. 그것은 바로 끊기지 않는 증거 보관 연속성 (chain of custody)을 갖춘, 결정론적이고, 재현 가능하며, 변조 방지 (tamper-evident) 기능이 있는 감사 추적 (audit trail)입니다.

다음 단계

사이버 범죄 경제는 둔화되지 않고 있습니다. AI 에이전트는 법 집행 기관이 적응하는 속도보다 더 빠르게 무기화되고 있습니다. 첫 번째로 주목받는 AI 에이전트 재판은 피할 수 없는 흐름입니다.

문제는 누가 살아남을 수 있는 포렌식 기록을 보유하게 될 것인가 하는 점입니다.

기록은 존재합니다. 체인은 끊기지 않았습니다. 엔진은 가동 중입니다.

Founder & CEO, Decision Security Layer
https://seais-decision-core.onrender.com
Contact: decseclayer@gmail.com