인터폴: AI가 사이버 위협의 속도와 규모를 증가시키고 있다. 기업이 주목해야 할 것들

인터폴에 따르면 인공지능(AI)은 사기 및 부정과 같은 기존 범죄 전술을 강화함으로써 사이버 위협을 가능하게 한다.

인터폴의 글로벌 최고 정보 보안 책임자인 Bjorn R. Watne은 목요일 싱가포르 테크 위크(Tech Week Singapore) 현장에서 CNBC와의 인터뷰를 통해, AI는 기존 범죄 기술을 혁신하기보다는 강화하고 있다고 말했다. 사기 운영자들은 AI를 사용하여 여러 피해자를 동시에 겨냥할 수 있으며, 개선된 번역 및 디지털 신원 확인 기능은 사기성 상호작용과 실제 상호작용을 구별하는 것을 점점 더 어렵게 만들고 있다.

Watne은

Watne은 에이전트형 AI(agentic AI)에 대해 특히 경계심을 표명했는데, 이 기술이 사용자 대신 행동할 수 있는 능력을 갖게 되면서 실수가 잘못된 정보 제공을 넘어 실제 세계적 결과로 이어질 수 있다고 경고했습니다.

Watne은 “AI가 잘못된 정보를 먹여주는 것”이라고 말하며, “하지만 AI가 실제로 행동을 수행하는데 그 과정에서 잘못된 행동을 하기 시작하면, 특히 물리적인 영역에서는 인간의 신체적 위해(bodily harm)를 초래할 수 있다”고 지적했습니다.

그는 자동차나 자율주행차 같은 장치에 AI가 증가하여 배치되는 것을 우려하는 부분으로 꼽았습니다.

Watne은 이러한 위험이 사람들이 금융 서비스와 비교했을 때 기술에 대해 상대적으로 높은 수준의 신뢰를 보내는 것과 결합되어 더욱 커진다고 말했습니다.

Watne에 따르면, 사람들은 PIN 코드 같은 안전장치에 의존하고 카드 스키밍(card skimming) 같은 위험에 경계심을 늦추지 않는 등 금융 서비스에는 더 통제 중심적인 접근 방식을 취하는 경향이 있습니다. 하지만 기술의 경우, 이러한 수준의 주의 없이 새로운 장치나 앱을 채택하는 경우가 더 빠르다고 합니다.

Watne은 사람들이 프롬프트에 쉽게 클릭하고 새로운 기술에 대한 접근 권한을 부여하는 방식에 주목하며, “기술과 관련해서는 신뢰 수준이 감당할 수 없을 정도로 높다”고 말했습니다.

그는 AI 시스템이 사용자 대신 행동하는 능력이 커짐에 따라, 이러한 신뢰 수준은 더 많은 면밀한 검토가 필요하다고 덧붙였습니다.