이스라엘의 AI 표적 시스템 내부: 휴대폰 데이터가 어떻게 사형 선고가 되는가

이 기사를 들으려면 여기를 클릭하세요 -

• 이스라엘 군은 레바논의 Hezbollah (헤즈볼라)를 공격한다고 주장하는 공격을 개시하기 위해 인공지능 (AI) 기반의 표적 시스템을 사용해 왔습니다.
• 이 시스템은 스마트폰, 보안 및 교통 카메라, Wi-Fi 신호, 드론, 소셜 미디어 등 다양한 출처의 데이터를 융합합니다.
• 전문가들은 AI 기반 시스템이 민간인을 오인할 수 있다고 경고합니다.

베이루트(BEIRUT) — 그날 이스라엘 드론의 윙윙거리는 소리는 끊이지 않았고, Ahmad Turmus (아흐마드 투르무스)가 고개를 들 때마다 마치 너무나 인내심 강한 포식자처럼 그의 머리 위를 선회하고 있는 듯했습니다.

그래서 2월의 어느 월요일 오후, 가족들을 방문하던 중 전화가 울렸을 때, 투르무스는 아랍어 억양을 사용하는 통화 상대가 이스라엘 군 장교라는 사실에 그리 놀라지 않았습니다.

그를 놀라게 한 것은 질문이었습니다.

“아흐마드, 당신은 주변 사람들과 함께 죽고 싶습니까, 아니면 혼자 죽고 싶습니까?”

인터뷰에 응한 가족들에 따르면, 투르무스는 전화를 끊기 전 한 마디로 대답했습니다: “혼자.”

이스라엘이 인정한 투르무스에 대한 표적 지정은, 이스라엘 군이 Hezbollah (헤즈볼라)가 대응책을 찾지 못한 것으로 보이는 정보전 (intelligence war)을 어떻게 반복적으로 숙달해 왔는지를 보여줍니다.

2024년 9월, 이스라엘이 Hezbollah (헤즈볼라) 구성원들이 소지한 호출기 (pager)에 숨겨진 폭발물을 원격으로 터뜨렸던 극적인 호출기 공격 사건 이후로, 보병, 지원 인력, 현장 지휘관, 참모총장, 그리고 존경받는 사무총장에 이르기까지 인공지능 (AI) 기반 표적 시스템에 의해 쓰러져 왔습니다.

이스라엘이 레바논의 오랜 이란 동맹국인 Hezbollah (헤즈볼라)에 대한 공격을 강화함에 따라, 의료 시설들도 점점 더 공격을 받고 있으며, 수십 명의 의료 종사자가 사망하거나 부상을 입었고 13개의 의료 센터가 폭격당했습니다.

스마트폰, 보안 및 교통 카메라, Wi-Fi 신호, 드론, 정부 데이터베이스 및 소셜 미디어의 데이터를 융합하는 이 시스템은 이스라엘에 Hezbollah (헤즈볼라) 간부들의 모든 움직임을 추적할 수 있는 거의 전지전능해 보이는 능력을 부여했습니다.

62세의 Turmus (투르무스)는 2024년 이스라엘의 Hezbollah (헤즈볼라) 공격 캠페인 기간 동안 전장으로 변한 이스라엘 국경에서 3마일 이내의 작은 마을인 Talloosah (탈루사) 주민들과 Hezbollah (헤즈볼라) 사이의 연락 담당자로 활동하고 있었습니다.

이후 이어진 15개월간의 휴전 기간 동안, 그는 레바논 남부 전역에서 이스라엘의 공격이 지속되는 와중에도 마을을 정상화하기 위해 수리 인력 및 민방위 팀과 협력하며 시간을 보냈습니다.

그의 가족은 그를 이 이슬람 무장 단체의 전직 전투원이었으나, 노년에는 행정적인 역할을 맡았다고 설명했습니다. 이스라엘 측은 그가 "Hezbollah (헤즈볼라) 테러 인프라를 재건하기 위한 군사 및 재정 문제"를 다루고 있었다고 말했습니다.

그의 역할이 무엇이었든, 그 역시 이제 수년 전부터 시작된 정보 수집 과정의 정점인 이스라엘의 킬 체인 (kill chain)에 얽히게 되었습니다.

Turmus (투르무스)가 군의 표적이 될 수 있었던 방법은 여러 가지가 있었으며, 그 중 어느 하나가 결정적인 증거 (smoking gun)는 아니었지만, 그 모든 것이 결국 그해 2월 그를 살해 대상으로 선택한 알고리즘 (algorithm)의 잠재적인 재료가 되었습니다.

우선, 그는 Hezbollah (헤즈볼라)를 지지하는 시아파 중심의 마을인 Talloosah (탈루사)에 거주했기에, Turmus (투르무스)와 다른 주민들의 움직임은 이스라엘 드론의 감시하에 끊임없이 놓여 있었습니다.

가자 지구에서의 이러한 시스템 사용에 대해 문제를 제기하기 전까지 방산 기업에서 근무했던 한 AI (인공지능) 전문가에 따르면, 드론의 카메라가 그의 얼굴과 함께 차량의 모델 및 번호판, 그리고 그의 집을 촬영하고 기록했을 가능성이 높습니다.

드론은 "스팅레이 (stingrays)

자신의 업무를 논의할 수 있도록 익명을 요구한 한 AI 전문가에 따르면, Turmus가 SIM 카드를 교체했더라도 그는 여전히 추적되었을 것이라고 합니다.

“그것은 거대한 데이터 파이프라인입니다. 전화 메타데이터 (metadata), 위치 핑 (location pings), SIM 카드 교체, 앱 사용 기록, 소셜 미디어 활동, 때로는 은행 기록이나 안면 인식 (facial recognition) 입력값까지 포함됩니다. 많은 데이터가 상업적 플랫폼, 모바일 네트워크, 파트너 정보 기관, 또는 현장의 스파이들로부터 ‘스크레이핑 (scraped)’됩니다,”라고 해당 AI 전문가는 말했습니다.

데이터가 수집되면 Palantir의 Maven과 같은 플랫폼이 모든 데이터를 표준화, 태깅 (tagging) 및 점수화 (scoring)하여 여러 기기와 계정에 걸친 신원과 연결합니다. Palantir는 이스라엘 군과의 협력 작업에 대해 공개적으로 언급해 왔습니다.

그 후 AI는 대상의 활동 타임라인을 구축하고 그들의 관계 네트워크를 매핑 (mapping)할 수 있습니다.

그 과정에서도 Turmus는 식별되었을 수 있습니다. 그의 아들 중 한 명은 2024년 초에 사망한 Hezbollah 전투원이었으며, 다른 아들은 페이저 (pager) 공격으로 부상을 입었습니다.

의회 승인을 위한 법적 마감 기한은 행정부에 대한 압박을 가중시키고, 인기 없는 전쟁에 대한 지지 부족을 부각할 위기에 처해 있습니다.

레바논 정부의 유엔 레바논 평화유지군 임무 조정관으로 근무했던 퇴역 장군 Mounir Shehadeh는 이스라엘이 레바논에 심어놓은 깊고 누적적인 정보 침투 덕분에 Turmus를 추적하는 것이 더 쉬웠을 것이라고 말했습니다.

Shehadeh는 “이러한 요소들 덕분에 이스라엘은 현장 지휘관과 고위 지도부 인물을 모두 아우르는 정밀한 표적 은행 (target bank)을 구축할 수 있었습니다”라고 말했습니다.

AI는 이 단계에서 투입됩니다. 테라바이트 (terabytes) 단위의 데이터를 빠르게 훑으며 패턴을 감지하고, 이를 알려진 위협 요소나 지정된 구역 근처에 나타난 인물의 움직임과 비교합니다. 또한 대상의 일상적인 패턴에서 벗어나는 편차를 분석합니다. 이 모든 과정은 이른바 위협 프로필 (threat profile)을 생성하는 데 사용됩니다.

2023년 2월 전투 중 AI에 관한 이스라엘 군 기사에서 인터뷰한 한 이스라엘 대령에 따르면, 그 결과물은 표적을 빠르게 찾아낼 수 있는 시스템입니다.

두 세력 사이에는 40년 이상 거슬러 올라가는 적대 관계가 있으며, 긴장된 침묵의 시기 사이사이로 전투의 폭발이나 전면전이 이어져 왔습니다.

“이 시스템은 과거 수백 명의 조사관이 몇 주 동안 수행해야 했던 과정을 단 몇 초 만에 처리합니다.”라고 이스라엘 군 인공지능 센터(Artificial Intelligence Center)의 책임자이자 Yoav 대령으로만 알려진 인물이 말했습니다.

하지만 AI 전문가의 말에 따르면, 한 가지 우려 사항은 이러한 시스템이 누군가가 위험한지 판단할 때 논리(Logic)가 아닌 데이터(Data)를 사용한다는 점입니다. 만약 그 정보에 결함이 있다면, 시스템은 동일한 실수를 “더 빠르고 더 확신을 가지고” 계속 반복하게 될 것입니다.

전쟁이 다시 레바논 남부로 다가오면서, 기독교인과 기타 소수 민족들(대부분 Hezbollah의 팬이 아닌 이들)은 점점 더 교전 중 발생하는 부수적 피해(Crossfire) 상황에 놓이고 있습니다.

“이것은 확실성에 대한 환상을 만들어내며, 이는 맥락(Context)을 항상 파악하지 못한 채 상관관계(Correlation)를 행동으로 옮기게 만들기 때문에 위험합니다.”라고 전문가는 말했습니다.

그는 이어 “이곳은 실험실이 아닙니다.”라고 덧붙였습니다. “그렇다면 시스템은 누가 누구인지 어떻게 알 수 있습니까? 그리고 시스템이 누군가를 식별(Flag)했을 때, 그것은 인간의 결정입니까, 아니면 단순히 알고리즘이 스위치를 올리는 것뿐입니까?”

또 다른 문제는 이러한 시스템이 누군가가 전투원일 확률을 계산하기 위해 누가 누구와 대화하는지, 혹은 언제 어디로 이동하는지와 같은 일상적이고 일상적인 활동을 추적하는 것에 의존한다는 점입니다. 이는 잠재적으로 오탐(False positives)으로 이어질 수 있다고 메타데이터(Metadata) 및 빅데이터(Big-data) 기반 표적 프로세스의 부상에 관한 2023년 연구 논문을 작성한 슬로베니아 범죄학 연구소(Institute of Criminology)의 Vasji Badalic 교수는 말했습니다.

“친척이나 선전 활동 또는 금융 활동에 참여하는 사람들은 전투원이 아니지만, 기계는 그들이 유사한 통신 패턴을 가지고 있다는 이유로 그들을 전투원으로 인식합니다.”라고 Badalic는 말했습니다.

“그들은 전투원과 민간인을 나누는 임계값(Threshold)을 어디에 설정하고 있습니까?”

전쟁 지역에서 표적을 식별하거나 사건을 예측하기 위해 머신러닝 (Machine-learning)을 배치하려는 노력은 새로운 것이 아닙니다. George W. Bush 대통령 재임 시절 이라크 전쟁 동안, 미군은 전화 메타데이터 (Phone metadata)를 수집하고 이를 처리하여 의심스러운 활동이라고 간주되는 것을 찾아냈습니다.

미 국가안보국 (NSA) 또한 아프가니스탄에서 Al Qaeda 연락책을 식별하기 위해 행동 프로파일링 (Behavioral profiling) 프로그램인 SKYNET을 개발했습니다.

2019년 무렵, Amazon과 Microsoft 같은 기업들은 예측력을 향상시킬 수 있는 더 복잡한 시나리오에 대한 수학적 연산을 수행할 수 있을 만큼 충분한 "컴퓨트 (Compute)" — 즉, 컴퓨팅 파워 (Computing power) — 를 확보했습니다.

아프가니스탄에서의 미군은 이러한 발전을 활용하여 Raven Sentry를 개발했습니다. 이는 80년대까지 거슬러 올라가는 반군 공격 보고서와 더불어 다양한 지역의 가로등 설치량과 같은 부수적인 정보 (Ancillary information)를 학습한 AI입니다.

미 육군 전쟁대학 (U.S. Army’s War College)에서 Raven Sentry에 대해 기술한 Thomas W. Spahr 대령에 따르면, 2021년 미군이 아프가니스탄에서 철수할 당시 해당 모델의 향후 공격 위치 예측 성공률은 70%에 달했으며, 이는 인간 분석가와 거의 대등한 수준이었습니다.

레바논에서 이스라엘이 거둔 성공에도 불구하고, Hezbollah이 이스라엘의 AI 기반 감시망에 적응하고 있다는 징후가 나타나고 있습니다.

이란의 최고 지도자 Ayatollah Ali Khamenei의 살해와 2024년 휴전 협정의 반복적인 위반에 대응하여 해당 단체가 이스라엘을 공격한 이후 시작된 현재의 분쟁 (Conflagration) 동안, Hezbollah은 분권화된 구조를 가진 더 작은 규모의 부대를 채택하며 게릴라전 (Guerrilla warfare)의 뿌리로 돌아갔습니다. 퇴역 장군인 Shehadeh에 따르면, 그들은 또한 덜 편리하더라도 더 안전한 형태의 통신 수단에 의존했습니다.

이란의 최고 지도자를 살해하는 데 도움을 주기 위해 테헤란의 거리 카메라를 사용한 이스라엘의 사례는 일상적인 감시가 어떻게 전시 무기로 변할 수 있는지를 보여줍니다.

알고리즘이 Turmus를 감시 대상에서 살해 명단(kill list)으로 옮기게 만든 어떤 행동이 트리거(trigger)가 되었는지는 불분명합니다. 연락책 역할을 수행하던 그는 Hezbollah의 비전투원이었으며, 가족들은 그가 휴대폰을 바꾸는 일조차 하지 않았다고 말했습니다. (“이스라엘 사람들은 이미 나를 알고 있으니, 그게 무슨 상관이겠어?”라고 그는 말하곤 했습니다.)

그가 살해당하기 전날인 2월 15일, 그는 스마트폰을 껐고, 다음 날 인근 마을의 시의회 회의에 참석하러 갈 때 휴대폰을 집에 두고 갔습니다. 이스라엘 측으로부터 걸려온 전화는 그가 Talloosah의 집으로 돌아와 스마트폰을 켜고 얼마 지나지 않아 걸려왔습니다.

전화를 끊었을 때 그의 표정이 변했다고 가족들은 The Times에 전했습니다. 그는 이스라엘 사람들이 자신을 노리고 있다고 말하며, 가족들에게 집을 떠나 자신을 혼자 죽게 내버려 두라고 말했습니다. 가족들은 그에게 탈출을 시도해 보라고, 떠날 수 있도록 변장을 도와주겠다고 간청했습니다.

하지만 Turmus는 거절했습니다. 그는 문으로 향했습니다. “그들은 내 얼굴을 알아. 우리가 이 상황에 맞서 할 수 있는 건 아무것도 없어.”라고 그는 말했습니다. 가족들에 따르면 그가 나갈 때 아내가 안으로 들어오고 있었지만, 그는 아내가 자신을 막으려 하지 않도록 그녀를 아는 척하지 않았습니다.

그는 차에 올라타 시동을 걸고 운전해 나갔습니다. 30초도 채 지나지 않아, Turmus의 차량을 관통하는 두 발의 미사일이 날카로운 비명을 지르며 날아왔습니다.