정보 유출 방지 대책 중 하나로서 AI 통신 경로 제한

AI에 의한 접근을 식별하여 거부하는 방법이나, 방화벽(firewall)으로 연결 목적지를 제한하는 방법은 이미 알려진 기술입니다.

이러한 것들을 조합하여 정보 유출 방지 대책 중 하나로서 AI와의 통신 경로를 제한하는 방법도 검토할 수 있습니다.

• 접근 시 확인 가능한 정보로부터, AI에 의한 접근이라고 판별할 수 있는 경우에는 해당 접근을 거부한다.

• 클라우드 상에서 실행되는 AI 기능의 경우, 이용자 본인이 아닌 서비스 측의 IP 주소에서 접근될 수 있습니다.

• 방화벽 등에서 AI API를 포함하는 연결 목적지를 제한한다.

• AI가 자율적으로 외부 통신을 수행하는 메커니즘이 사용되는 경우에도, 허용할 통신 목적지를 좁히는 대책이 도움이 될 가능성이 있습니다.

• AI API로의 외부 통신을 거부하여 서버에서 정보가 전송되는 경로를 줄인다.

AI의 신고 정보는 위장될 가능성이 있으며, AI API의 연결 목적지 역시 중계 서버 등을 경유하면 판별할 수 없는 경우가 있습니다. 따라서 이것만으로 정보 유출을 막을 수는 없습니다. 그럼에도 불구하고, 이미 알려진 AI 접근이나 통신 경로를 줄이는 추가 대책으로서 의미가 있습니다.

AI를 사용하여 생성된 프로그램에 의한 부정 접근뿐만 아니라, AI 에이전트(agent)가 악의적인 입력 등에 유도되어 허가된 기능을 통해 부적절한 조작을 할 가능성까지 고려하여 손해는 없습니다.

이 대책은 AI라고 식별할 수 있는 접근을 거부함으로써, 그러한 접근이 성공할 가능성을 아주 조금이라도 낮추는 것을 의도하고 있습니다.

AI 기능이 필요한 경우에는, AI로의 통신을 허가하는 서버 A와, 허가하지 않는 서버 B로 분리하는 방법도 있습니다.

이 구성에서는 서버 A로부터 서버 B의 모든 정보를 가져올 수 없도록 합니다. AI 기능에 필요한 정보만을 전달하도록 설계를 한다면, AI에 연결할 수 있는 서버에서 유출될 가능성이 있는 정보도 한정할 수 있습니다.

서버를 분리하는 것만으로 안전해지는 것은 아닙니다. 서버 간의 통신 권한을 좁히고, 전달하는 정보를 필요 최소한으로 하는 것이 중요합니다.