사이버 범죄자들이 기업의 컴퓨팅 자원과 AI 모델 접근 권한을 악용해 자체 AI 활동에 필요한 비용을 충당하거나, 다른 공격자에게 접근 권한을 재판매하는 사례가 늘고 있습니다.
'LLM 재킹'이라고 불리는 이 수법은 짧은 시간 안에 막대한 클라우드 비용을 발생시킬 수 있으며, 자동화된 사이버 공격을 수행할 새로운 수단으로도 활용될 수 있습니다.
탈취한 모델 접근 권한으로 100만 달러 피해
이 수법으로 얼마나 빠르게 금전적 피해가 발생할 수 있는지는 Mandiant와 구글 위협 인텔리전스 그룹의 조사에서 확인할 수 있습니다. 보고된 한 사례에서는 단 하루 만에 10만 달러가 넘는 부당 요금이 발생했습니다. 접근을 차단하기까지 피해 규모는 약 100만 달러로 불어났습니다.
시스템 성능 저하나 전기·클라우드 요금 증가를 통해 악용 사실을 파악하기 쉬운 기존 크립토재킹과 달리, LLM 재킹은 비용이 갑작스럽게 치솟을 수 있습니다. 공격자는 기업이 보유한 언어 모델 접근 권한과 컴퓨팅 자원을 이용하며, 피해 기업은 처음에는 이러한 사실을 알아차리지 못할 수 있습니다.
탈취한 인증 정보로 AI 인프라에 침입
공격자는 AI 인프라에 접근하기 위해 탈취한 세션이나 로그인 정보를 활용합니다. 공개된 GitHub 저장소에 실수로 노출된 유효한 액세스 키도 공격에 이용됩니다.
침입에 성공하면 탈취한 키를 한데 모아 불법 프록시 서비스를 통해 다른 사람에게 재판매할 수 있습니다. 이러한 서비스는 지하 온라인 시장에서 정가보다 훨씬 저렴하게 판매되기도 합니다. 구매자는 강력한 AI 모델을 이용할 수 있지만, 사용 비용은 원래 계정 소유자에게 청구됩니다.
몇 시간 만에 수십만 건의 API 요청 발생
조사에서는 여러 가지 공격 방식이 확인됐습니다. 한 사례에서는 이른바 토큰 라우팅 서비스가 모델 사용 비용 약 100만 달러를 피해 기업에 청구했습니다. 동시에 다른 이용자에게는 월 60달러 정도의 요금으로 최신 모델을 사실상 무제한 이용할 수 있는 서비스를 제공했습니다.
또 다른 공격자는 8시간도 채 되지 않는 시간 동안 50만 건이 넘는 API 요청을 보냈습니다. 기존 사용량 제한을 우회하기 위해 수명이 짧은 서비스 계정을 반복적으로 생성하고 삭제하는 방식도 사용했습니다. 이와 동시에 클라우드 제공업체의 결제 인터페이스를 모니터링하며 발생하는 비용을 확인했습니다. 이러한 방식은 기업이 개별 계정이나 갑작스러운 사용량 증가만으로 악용 사실을 조기에 파악하기 어렵게 만듭니다.
접근 권한과 사용량을 지속적으로 감시해야
맨디언트와 GTIG는 기업이 AI 환경도 보안 모니터링 대상에 포함해야 한다고 권고합니다. 우선 승인되지 않은 애플리케이션과 모델 접근 경로를 파악해야 합니다. 이른바 '쉐도우 LLM'은 기업이 미처 파악하지 못한 추가 공격 표면을 만들 수 있기 때문입니다.
또한 API 키에는 각 작업에 필요한 최소한의 권한만 부여해야 합니다. 자동화된 검사를 활용하면 실수로 공개된 인증 정보를 찾아내는 데 도움이 됩니다. 모델 사용량과 부하도 지속적으로 모니터링해야 합니다. 보안 전문가들은 다중 인증을 도입하고 민감한 정보를 신중하게 취급하는 것도 권고합니다.
구글 위협 인텔리전스 그룹의 수석 분석가인 존 훌트퀴스트는 이러한 공격이 점차 대규모화되고 있다고 설명합니다.
"공격자들은 에이전트 기반 도구를 활용하고 아무것도 모르는 제3자의 토큰을 탈취해 방어자보다 더 빠르게 공격 규모를 확장하려 합니다. LLM을 안전하게 보호하면 기업이 통제할 수 없는 비용이 발생하는 것을 막을 수 있을 뿐 아니라, 모든 사용자가 저렴한 비용으로 실행되는 자율형 공격에 무방비로 노출되는 상황도 방지할 수 있습니다."
언어 모델이 실제 서비스 환경에 점점 더 많이 도입되면서 보안은 비용 관리 측면에서도 중요한 과제가 됐습니다. 기업은 누가 모델에 접근하는지, 어떤 자원이 사용되는지, 해당 활동이 실제로 승인된 것인지 파악할 수 있어야 합니다.
※ 자세한 내용은 원문을 참조해주세요.
※ 퀘이사존 공식 기사가 아닌 해외 뉴스/기사를 번역한 것으로, 퀘이사존 견해와 주관은 포함되어 있지 않습니다.
