SIEM/XDR을 위한 제약된 액션 AI 복구 방안: NeMo-Guardrails 프록시를 활용하여

정보 기술 및 운영 기술(OT)의 보안 관제 센터(SOCs)는 공통적인 사고 대응 문제를 안고 있습니다. 바로 상관관계가 높은 경보와 분석가의 부족입니다. 대규모 언어 모델(LLMs)은 경보를 분류하고, 자율 배포 환경에서는 IP 차단, 프로세스 종료 또는 프로덕션 호스트에서 파일을 격리하는 명령을 내리는 추론 엔진으로 점점 더 많이 제안되고 있습니다. 이러한 결합은 새로운 위험을 초래합니다. 단일의 적대적(adversarial) 경보가 LLM의 추론 과정을 통해 원격 코드 경로가 되어, SOC가 실행할 조치를 추천하게 만들 수 있다는 것입니다. 본 논문에서는 두 가지 조정된 계층으로 구성된 제약된 액션 아키텍처를 제시합니다: (i) 상관관계 있는 호스트 이벤트를 기반으로 복구를 근거화하고, LLM의 출력을 폐쇄된 의도 어휘(closed intent vocabulary)로 제한하며, 템플릿화된 명령은 경고 검증기(argument validator)에 의해 백업되는 얇은 엔드포인트 에이전트가 실행하는 SIEM/XDR 제어 평면; 그리고 (ii) SOC-분석가 LLM을 입력 및 출력 레일 정책으로 감싸는 NeMo-Guardrails 프록시입니다. 이 프록시는 우리가 공개하는 SOC 특정 적대적 코퍼스(adversarial corpus)를 대상으로 즉시 평가됩니다. 이 스톡 프록시는 오탐률 0.1%에서 주입 회상율(injection recall)을 25.0%에서 94.5%로 높였으며, 실제 레드팀 운동은 폐쇄된 의도 어휘와 경고 검증기가 어떤 명령이 신뢰 경계를 넘기 전에 관찰되는 LLM 실패 모드를 포함하고 있음을 확인했습니다. 아키텍처적 적합성(아직 측정된 운영 기술 배포는 아니지만) 측면에서, 제약된 액션 속성은 잘못된 복구가 단순히 운영상의 결과가 아니라 물리적인 결과를 초래하는 중요 인프라 환경에 적합합니다. 이 루프는 인간 참여형(human-in-the-loop)으로 실행하거나 지연시키는 것이 가장 좋습니다. 측정된 레일 지연 시간은 인라인 제어 범위를 벗어나게 합니다.