AI 기반 포렌식 조사 기업은 자사의 플랫폼이 올해 백악관 기자단 만찬(White House Correspondents' Dinner)에서 발생한 암살 시도에 대한 FBI의 긴급 조사 과정에서 사용되었다고 밝혔습니다.
중요한 이유: 법 집행 기관들은 범죄 수사 과정에서 생성되는 방대한 양의 디지털 증거를 분류하기 위해 AI 도구에 의존하고 있습니다.
- Axios가 보도한 바와 같이, 이들은 또한 미제 사건(cold cases), 실종자 조사 및 재판 준비를 촉진하기 위해 이러한 도구들을 사용하기 시작했습니다.
뉴스 핵심 내용: 이번 사례와 관련하여, 디지털 포렌식(digital forensics) 기업인 Exterro는 사건 발생 후 Cole Thomas Allen에 대한 기소가 이루어지기까지의 긴박했던 48시간 동안 FBI가 자사의 플랫폼을 사용했다고 Axios에 전했습니다.
- Exterro는 FBI가 정확히 어떻게 자사의 도구를 사용했는지는 공유할 수 없었으나, 경영진은 고객들이 압수된 기기의 메시지, 소셜 미디어 계정 및 사건과 관련된 기타 디지털 흔적을 조사하는 데 이 도구를 자주 사용한다고 Axios에 밝혔습니다. FBI는 논평을 거부했습니다.
- 법무부(Justice Department)는 이전에 수사관들이 압수된 기기, 클라우드 및 이메일 계정, 여행 및 금융 기록, 감시 영상, 그리고 만찬이 열린 워싱턴 힐튼(Washington Hilton)의 메타데이터(metadata)를 검토했다고 밝힌 바 있습니다.
작동 방식: Exterro가 FBI에서 사용했다고 밝힌 FTK Suite는 수사관들이 사건의 증거를 단일 저장소(repository)에 정리하고 권한이 있는 사용자들이 동시에 접근할 수 있도록 하는 온프레미스(on-premises) 플랫폼을 제공합니다.
- 이 플랫폼은 주로 수사관들이 수집된 대량의 디지털 증거를 처리하고 정리하는 것을 돕기 위해 설계되었습니다.
- Axios에 공개된 데모에 따르면, 사용자들은 "강아지 사진을 모두 찾아줘" 또는 "이 용의자가 등장하는 이미지와 영상을 보여줘"와 같은 프롬프트(prompt)로 플랫폼에 내장된 AI 어시스턴트(AI assistant)에게 질의할 수 있습니다.
- 수사관들은 또한 "이 특정 인물이 이 날짜와 시간에 이 장소에 있었습니까?"와 같은 질문을 던질 수도 있습니다.
그렇지만 (Yes, but): Exterro는 자사의 AI 모델을 고객 데이터로 학습시키지 않으며, 증거를 검토하고 기소 결정을 내리는 책임은 여전히 수사관에게 있다고 밝힙니다.
- Exterro의 제품 관리 부사장(vice president of product management)인 Harsh Behl은 Axios에 "우리는 이 플랫폼이 전 세계에서 가장 안전한 장소 중 일부에 배포될 수 있도록 허용합니다"라고 말했습니다. "수사관들은 인터넷이나 클라우드에 접속할 수 없을 수도 있기 때문에, 우리는 고객의 구내(premises)에 배포하는 것을 허용하며 데이터는 절대 고객의 구내를 벗어나지 않습니다."
- 회사 측에 따르면 Exterro의 고객에는 법 집행 기관과 약 40개의 Fortune 100 기업이 포함되어 있습니다.
마찰 지점 (Friction point): AI가 수사관들에게 축복이 되고 있는 반면, 법원은 이제 증거가 AI에 의해 생성되거나 조작되지 않았음을 보장하기 위해 증거를 검증해야 하는 문제에 점점 더 직면하고 있습니다.
- Exterro의 플랫폼에는 잠재적인 딥페이크(deepfakes)를 식별하는 데 도움을 주도록 설계된 도구도 포함되어 있습니다.
- Behl은 "우리의 제품은 매일 사람들의 삶에 닿아 있으며 사람들의 삶에 직접적인 영향을 미칩니다"라고 말했습니다. "우리 도구의 조사 결과에 따라 누군가의 유죄 여부가 증명될 수 있으며, 그것이 바로 이 일의 엄중함(gravitas)입니다."
결론 (The bottom line): AI는 디지털 증거를 검토하는 표준 도구가 되어가고 있으며, 이는 논쟁의 중심이 수사관이 AI를 사용해야 하는가에서 어떻게 AI의 도움을 받은 조사 결과를 법정에서 검증하고 방어할 것인가로 이동하고 있음을 시사합니다.