LLM 기반 보안 분석을 회피하기 위해 정책 트리거 텍스트를 삽입하는 악성코드

포렌식 요약 (Forensic Summary)

악성코드 개발자가 LLM(Large Language Model) 기반 보안 분석 파이프라인에서 혼란을 주거나 거부 동작(refusal behaviour)을 유발하기 위해, JavaScript 주석 블록 내에 핵 및 생물 무기에 대한 참조를 포함하여 가짜 시스템 지침과 정책 트리거 콘텐츠를 삽입하는 것이 관찰되었습니다. 이 기술은 코드 실행에는 영향을 미치지 않지만, 원본 파일 콘텐츠를 신뢰할 수 없는 데이터로 격리하지 않고 언어 모델에 그대로 전달하는 단순한 AI 우선 분류(AI-first triage) 도구를 방해하기 위해 특별히 설계되었습니다. 전통적인 정적 분석(static analysis) 방법은 영향을 받지 않지만, 이 접근 방식은 새롭게 등장하는 유형의 안티 AI 분석(anti-AI-analysis) 회피 기술을 시사합니다.

Grid the Grey에서 전체 기술 심층 분석을 읽어보세요: https://gridthegrey.com/posts/malware-embeds-policy-triggering-text-to-evade-llm-based-security-analysis/