미 육군은 디지털 및 네트워크 인프라를 탐색하고, 목표물을 식별하며, 이를 “무력화”할 수 있는 자율 AI 에이전트를 배치하는 프로그램을 개발 중인 것으로 알려졌다. _The Intercept_가 미 육군 사이버 사령부(ARCYBER)의 유출된 공식 문서를 인용한 10월 19일자 보고서에 따르면, ‘ECHOTRIBBLE’이라는 가칭으로 불리는 이 초기 프로그램은 주로 공격 임무에 초점을 맞추고 있으며, 목표물을 “위협을 완전히 또는 일시적으로 비활성화하거나, 목표물에서 위협을 삭제하는” 것을 목표로 한다.
이 프로그램은 컴퓨터 웜(worm)처럼 작동하여 적의 네트워크를 은밀하게 탐색하고, 장치 간 이동하며, 다양한 운영 체제에 걸쳐 자체 복제할 수 있는 모듈식 자율 AI 에이전트를 개발하고자 하는 것으로 알려졌다. 이 에이전트들은 교란된 클라우드 환경과 에어 갭(air-gapped) 시스템 모두에서 가볍게 작동하면서, 보고를 최소화하고 필요한 모든 전송을 은폐할 것이다. 에이전트가 목표물을 식별하고 무력화하면, 이상적으로는 목표물에 경고를 주거나 존재의 흔적을 남기지 않고 자체 파괴하게 된다.
사이버 보안 전문가들은 이 프로젝트에 대해 안전 문제를 제기했습니다. 최근 일련의 사건들로 인해 AI 에이전트가 환경을 벗어나 할당되지 않은 작업을 자율적으로 실행하는 사례가 발생했습니다. 해당 문건에 따르면 육군은 에이전트들이 목표물을 정확하게 구별하는 데 도움을 주기 위해 “사전 정의된 트리거(predefined triggers)”를 구현할 것이라고 합니다. 하지만 전문가들은 양성(benign)한 작업을 위해 설계된 에이전트가 그러한 작업을 달성하기 위해 계획되지 않고 때로는 위험한 행동을 실행할 수 있다면, 공격 임무만을 위해 특별히 설계된 자가 복제(self-replicating) 에이전트는 어떤 모습일지 우려합니다. Anthropic의 실험에 따르면 AI 에이전트가 다양한 하드웨어에서 추론(inference)을 설정하고 네트워크를 통해 복제할 수 있다.
육군은 또한 에이전트가 가능한 한 적은 인간의 감독으로 행동하는 ‘자율 지향적 행동(Self-Directed Behavior)’ 능력을 갖추기를 원합니다. 이는 원하는 수준의 자율성을 달성하는 데 필수적이기 때문입니다. 반대로, 이러한 수준의 자율성은 AI 에이전트가 임무를 완수하기 위해 안전장치(guardrails)를 우회하도록 만든 사례도 있었습니다. 정부 정보기관들은 또한 민간 인프라를 통해 목표 네트워크에 침투한 것으로 알려졌습니다 미국, 구암스 핵심 인프라 겨냥 해킹 캠페인 발견, 중국volt 타이푼의 해킹이 대만 방어에 차질을 줄 수 있다는 의혹. AI 보안 회사 Abundant의 공동 설립자이자 CEO인 Hyrum Anderson은 The Intercept을 통해 “목표물이 분명히 타격될 수 있습니다. 하지만 어떤 경로를 거칠까요?”라고 질문했습니다. 그는 “적대자가 지휘 통제(command and control) 시설을 배치한 곳이 미국 상수도 사업소일 수도 있고, 그곳까지 파괴할까요?”라고 덧붙였습니다.
또 다른 우려 사항은 에이전트가 어떻게 판단을 내릴지 하는 점입니다. AI 에이전트는 경로상의 장애물을 극복하는 데 탁월하지만, 무엇을 장애물로 간주하거나 그것을 극복하기 위해 어떤 경로를 택할지 100% 정확하게 예측하는 것은 불가능합니다. RAND Corporation의 선임 행동 과학자이자 군사 AI 응용 분야를 연구하는 William Marcellino은 “우리가 라마디에서 실탄과 무기를 가진 19세 해병대 상병들을 신뢰하는 이유 중 하나는 그들에게 컴퓨팅 기반(compute substrate) — 즉 두뇌와 눈 — 을 가졌을 뿐만 아니라, ‘아마도 그렇게 해서는 안 될 것 같다’고 이해할 수 있는 깊은 세계 지식(deep world knowledge)이 있기 때문입니다.”라고 말했습니다. 그는 “이는 현재 공개된 AI 기술로는 갖추지 못한 것입니다.”
ECHOTRIBBLE 프로그램은 초기 프로토타이핑 및 산업 평가 단계에 있으며, Army Cyber Technology and Innovation Center (ArCTIC), 그리고 Cyber Fusion Innovation Center (CFIC)가 주도하고 있습니다. 민간 공급업체와 학술 연구원들이 소프트웨어를 제안하고 설계하고 있습니다. ARCYBER와 ArCTIC는 작전 요구사항과 교전 규칙(rules of engagement)을 결정하며, 국방 비영리 조직인 CFIC는 육군과 상용 기술 기업 사이의 중개자 역할을 합니다. 육군은 최근 2026년 10월 6일부터 10월 8일까지 가상 평가 이벤트(Assessment Event)를 개최하여 에이전트 기반 프레임워크(agentic framework)에 대한 솔루션을 제안한 민간 공급업체들이 제출한 65개의 기술 백서(technical whitepapers)를 평가했고, 이를 다섯 개로 압축했습니다. 최종 후보군에게는 자금 지원과 공식 프로토타입 계약이 발급될 예정입니다.
