AI 코딩 어시스턴트(AI coding assistants)의 인기가 계속 높아짐에 따라, 이들을 둘러싼 공격 표면(attack surface)도 함께 증가하고 있습니다. 최근 공개된 SkillCloak이라는 기술은 악성 AI "스킬(skills)"이 어떻게 기존의 정적 보안 스캐너(static security scanners)를 우회하면서도, 설치된 후에는 해로운 코드를 실행할 수 있는지를 보여줍니다.

홍콩 과학기술대학교(Hong Kong University of Science and Technology)의 연구진은 공격자들이 많은 스캐너가 무시하는 위치에 페이로드(payloads)를 숨기거나, 기능은 변경하지 않으면서 구조를 약간 수정함으로써 악성 스킬을 위장할 수 있다는 사실을 발견했습니다. 그 결과는 놀랍습니다. 이러한 수정된 스킬들은 테스트된 스캐너의 90% 이상에서 탐지를 회피할 수 있었습니다.

더 큰 문제는 AI 에이전트(AI agent)의 스킬이 종종 사용자와 동일한 권한으로 실행된다는 점입니다. 이는 악성 스킬이 즉각적인 의심을 사지 않고도 잠재적으로 민감한 파일에 접근하거나, 자격 증명(credentials)을 훔치고, 소스 코드를 유출하거나, 심지어 시스템에 지속성(persistence)을 확보할 수 있음을 의미합니다.

또한 이번 연구는 방어 전략의 중요한 변화를 강조합니다. 보안 도구는 정적 분석(static analysis)에만 의존하는 대신, 런타임(runtime) 시점의 스킬 동작을 점점 더 모니터링해야 합니다. 스킬이 실제로 무엇을 읽고, 쓰고, 전송하는지를 관찰하는 것은 설치 전 단순히 콘텐츠를 검사하는 것보다 악성 활동에 대해 훨씬 더 강력한 지표를 제공합니다.

AI 생태계가 계속 확장됨에 따라, 이는 신뢰가 결코 외관에만 기반해서는 안 된다는 또 다른 경고가 됩니다. 개발 또는 운영 환경에서 AI 코딩 에이전트를 사용하든 상관없이, 신뢰할 수 있는 출처에서만 스킬을 설치하고, 권한을 제한하며, 런타임 모니터링을 채택하는 것이 리스크를 줄이는 데 필수적인 단계가 될 것입니다.

이 기사는 The Hacker News의 Swati Khandelwal의 보도와 홍콩 과학기술대학교에서 발표한 연구를 바탕으로 작성되었습니다.