수법은 그대로인데 16곳이 뚫린 이유
금융회사 16곳에서 침해가 확인되고 개인정보 약 10만 건이 샜는데(10/14 기준 금융당국 집계), 수법은 하나도 새롭지 않았다더라.
공격자 서버를 뜯어봤더니 AI 침투 도구 설정 파일이랑 AI 코딩 도구 작업 기록이 나왔다고 한다. 표적은 대출 조회, 직원용 업무지원처럼 밖에 열려 있던 서비스들. 바깥에서 문 두드려보고, 약한 데 찾고, 안으로 들어가는 방식. 이건 옛날부터 쓰던 거다.
그럼 뭐가 달라졌냐. 값이랑 속도다. 칼럼에 인용된 카스퍼스키 조사로는 2023년에 가짜 영상은 1분당 300달러에서 2만 달러였는데, 이제는 건당 50달러부터라고 한다. 단위가 달라서 몇 배 싸졌다고 딱 잘라 말하긴 어렵지만, 확 내려간 건 맞다. 공격도 똑같다. 사람이 오래 붙어야 하던 걸 AI로 빠르게 반복하고, 칼럼에 따르면 일부는 AI가 여러 시스템에서 약점을 훑고 실제로 악용 가능한지까지 확인한다.
금융권 555곳을 따로 점검했더니 130곳에서 보안 미흡사항이 확인됐다. 침해가 있었다는 얘기는 아니고, 넷 중 하나 안팎이 허술한 구석을 달고 있었다는 얘기.
칼럼에서 내 눈에 꽂힌 건 따로 있다. CyBiasBench라는 AI 보안 시험 기준으로 여러 AI 에이전트의 공격 습관을 비교했더니, AI마다 좋아하는 공격 유형이 달랐다는 것. 하나만 믿으면 그 AI 취향대로만 점검하고 나머지는 놓칠 수 있다는 뜻이다.
그래서 나라면 이렇게 쓴다. 퇴근하고 만든 내 앱 중에 밖에 열어둔 것부터 주소 목록으로 적는다. 그다음 AI 두 개한테 똑같이 「공격자라면 이 서비스 어디부터 찌르겠냐」 물어보고 답을 나란히 놓는다. 겹치는 건 급한 거고, 한쪽만 말한 건 다른 AI가 놓친 문일 수 있다. (이렇게 일부러 공격해보며 구멍을 찾는 훈련을 보안 쪽에선 레드티밍이라고 부른다.) 대상은 내 것만. 그리고 키나 고객 정보는 붙여넣지 않는다. 칼럼도 내부 보안정보가 해외 모델로 새는 걱정을 같이 짚었다.
공격은 자동으로 도는데 방어를 사람 눈으로만 한다? 격차는 벌어질 수밖에 없다고 본다. 이건 좀 아프지만 맞는 말 같다.
공격이 싸진 세상에선, 내가 안 열어본 문은 남이 열어보는 문이다.
점검해줄 팀도 없이 혼자 만드는 사람은 더 그렇다. 나부터 찔러봐야 한다.
배포하고 나서 내 서비스를 직접 한 번이라도 찔러본 사람 있나? 뭘로 했는지, 뭐가 나왔는지 궁금하다.
출처: 법률신문 — [AI와 사는 법] AI 보안, 공격 비용이 낮아진 시대
