Hades 악성코드 캠페인, 가짜 핵무기 프롬프트로 AI 스캐너 속임 — 악성 코드가 안전 장치 작동을 유발해 페이로드 검사를 건너뛰게 함

Hades는 현재 실행 중인 여러 악성코드 캠페인 중 하나이며, 주로 (하지만 전적으로만은 아닌) 과학 및 머신러닝 목적으로 사용되는 개발 패키지를 표적으로 삼고 있습니다. 이 공급망 공격(supply-chain attack) 캠페인은 최근 몇 차례 업그레이드를 받았으며, 그중 가장 흥미로운 것 중 하나는 기만적으로 단순합니다. 해당 코드는 AI 봇의 피상적인 검사를 막을 수 있는 프롬프트 주입 공격(prompt-injection attacks)을 포함하고 있습니다. 이 악성코드가 작동하는 방식은 간단히 말해 다음과 같습니다. 일부 JavaScript 파일에는 봇에게 안전 가이드라인이 없는 무제한 모드에서 실행 중임을 알리는 지침이 담긴 코드 주석이 포함되어 있습니다. 그런 다음 상세한 설명을 첨부하여 생물학적 및 핵무기 제작을 요청합니다.

악성코드 스캐닝 봇이 그러한 지침들을 따르도록 그렇게 어리석을 것이라고 생각한다면, 당신은 전적으로 맞습니다 — 그리고 그것이 바로 공격이 작동하는 방식입니다. 봇의 안전 장치 메커니즘(failsafe mechanisms)이 작동하여 나머지 파일, 즉 실제 페이로드(payload)가 존재하는 부분을 스캔하지 않게 만듭니다.

이는 AI 용어로 '적대적 공격(adversarial attack)'이라고 불리며, 일반적으로 광범위하게 효과적일 것이라고 예상되지는 않지만, 사악한 행위자들에게는 작은 도움이라도 됩니다. 그렇다고 하더라도, 한 X 사용자가 Anthropic Fable에게 해당 파일을 스캔하도록 시도했고, 실제로 잘 알려진 '채팅 일시 중지(Chat paused)' 메시지를 받았습니다.

이는 결코 과학적이지 않으며, 악성코드 스캐닝 모델이 이 작업을 위해 더 정확하게 구성될 것이라고 추정하는 것이 합리적입니다. 하지만 이는 개발자가

Socket의 블로그 게시물은 패턴 매칭(pattern matching), 소스 코드 실제 파싱(parsing), 악성 페이로드를 숨기기 위해 무작위화된 섹션 확인, 그리고 샌드박스 환경에서 코드를 실제로 실행하는 것을 포함하여 다른 분석 유형들은 여전히 잘 작동할 것이라고 언급합니다. 업그레이드된 악성코드는 다양한 메커니즘을 통해 스스로를 삭제하는 트리거(trigger)를 포함하고 있다고 보고되었으며, 일반적인 방식 중 하나는 샌드박스에서 실행되는지 감지하는 것입니다.

레벨업된 기술이 이것뿐만이 아닙니다. 일부 사례에서는 로딩 메커니즘과 페이로드 자체가 일반적으로 함께 설치되는 별도의 패키지에 존재합니다. 이러한 분할 구조는 일반적인 스캐너들에게는 대부분 예상치 못한 형태입니다. 이번에는 악성코드 개발자들이 성능에 민감한 Python 패키지에서 흔히 발견되는 미리 컴파일된 바이너리(precompiled binaries)에도 더 집중했습니다. 또한, 페이로드가 설치될 때가 아니라 대상의 코드 내에서 패키지가 실제로 초기화/실행될 때(Python의 "import" 구문을 통해)만 트리거되도록 하여, 피상적인 탐지를 더욱 회피하도록 만들었습니다.

캠페인은 전반적으로 더 많은 것을 훔치는 '끈적한' 손가락을 가지고 있습니다. 단순히 CI/CD 자격 증명(credentials)을 훔치는 것뿐만 아니라, 이제 npm, PyPI, RubyGems, JFrog, Kubernetes 서비스 계정 토큰, AWS 임시 자격 증명, SSH 키, Docker 구성, 셸 히스토리, .env 파일, 그리고 AI 개발 도구 구성까지 손대고 있습니다. 현재 시점 기준으로,

대상 독자가 과학 및 AI 엔지니어로 구성되어 있어 패키지의 이름과 작성자를 확인하는 것 같은 일반적인 보안 관행을 염두에 두리라 생각하지만, 그렇지 못할 때가 많습니다... 그리고 실망하게 됩니다. 매우 높은 급여를 받는 AI 엔지니어들을 위한 시스템 관리자로서 제가 겪은 경험상, 그들 중 상당수는 Git 설정 방법이나 이메일 작동의 기본 원리조차 모릅니다. 잠시 생각해 보세요.

Tom's Hardware의 최고의 뉴스 및 심층 리뷰를 받은 편지함으로 받아보세요.

Google News에서 Tom's Hardware를 팔로우하거나, 선호 출처로 추가하여 최신 뉴스, 분석 및 리뷰를 피드에서 받아보세요.

Bruno Ferreira는 Tom's Hardware의 기고 작가입니다. 그는 PC 하드웨어와 다양한 잡화에 대한 수십 년의 경험과 개발자 경력을 가지고 있습니다. 그는 세부 사항에 집착하며 자신이 좋아하는 주제에 대해 장황하게 이야기하는 경향이 있습니다. 다른 일을 할 때는 보통 게임을 하거나 라이브 음악 쇼 및 축제에 참여합니다.