AI 시스템이 웹 및 연결된 애플리케이션과 같은 복잡한 작업을 수행함에 따라 보안 위험도가 높아지고 있으며, 그중에서도 '프롬프트 인젝션(prompt injection)' 공격은 가장 중요하게 부상하는 위협 중 하나입니다. 이 공격은 제3자가 대화형 AI 시스템을 속여 악성 지침을 따르게 하거나 민감 정보를 유출하도록 유도하는 방식입니다.

이에 대응하여 OpenAI는 사용자 및 조직의 위험 인지도를 높이고 통제력을 강화하기 위해 두 가지 새로운 보호 장치를 도입했습니다. 바로 Lockdown Mode와 'Elevated Risk' 레이블입니다.

1. Lockdown Mode: 최고 수준의 보안을 위한 선택적 기능

Lockdown Mode는 고도의 보안 의식을 가진 소수의 사용자(예: 주요 조직의 임원, 보안팀)를 위해 설계된 고급 옵션 설정입니다. 대부분의 일반 사용자에게 필수적인 기능은 아니지만, 첨단 위협에 대한 보호가 필요한 경우 최적화되어 있습니다.

이 모드의 핵심 목표는 프롬프트 인젝션을 통해 발생하는 데이터 유출 위험을 근본적으로 줄이는 것입니다. Lockdown Mode가 활성화되면 ChatGPT가 외부 시스템과 상호작용하는 방식이 엄격하게 제한됩니다. 예를 들어, 웹 브라우징 기능은 캐시된 콘텐츠로만 한정되며, OpenAI의 통제된 네트워크를 벗어나는 라이브 네트워크 요청은 원천적으로 차단됩니다. 이는 민감한 데이터가 공격자에게 유출되는 것을 막기 위한 결정적인 조치입니다.

이미 기업용 플랜(ChatGPT Enterprise 등)을 사용하는 경우에도 이 모드를 추가할 수 있으며, 관리자는 기존의 역할 기반 접근 제어(role-based access)를 유지하면서도 어떤 앱과 그 안의 특정 행동까지 Lockdown Mode에서 허용할지 매우 세밀하게 선택할 수 있습니다. 또한, 별도의 Compliance API Logs Platform을 통해 앱 사용 및 연결된 소스에 대한 상세한 가시성을 확보하여 관리 감독 능력을 높일 수 있습니다.

2. 'Elevated Risk' 레이블: 투명한 위험 고지 시스템

AI 제품이 웹과 애플리케이션에 연결될수록 편리성은 증가하지만, 동시에 새로운 보안 위험도 발생합니다. OpenAI는 이러한 잠재적 위험을 사용자에게 명확하게 전달하기 위해 표준화된 접근 방식을 채택했습니다.

이제 ChatGPT, ChatGPT Atlas, Codex 등에서 추가적인 위험을 초래할 수 있는 특정 기능들은 일관되게 'Elevated Risk' 레이블이 붙습니다. 이 레이블은 단순히 경고하는 것을 넘어, 해당 기능을 사용함으로써 어떤 변화가 생기고, 어떤 종류의 위험이 도입될 수 있는지에 대한 명확한 설명을 제공합니다.

예를 들어, 코딩 어시스턴트인 Codex에서 개발자가 네트워크 접근 권한을 부여받아 웹상의 문서를 조회할 경우, 관련 설정 화면에는 'Elevated Risk' 레이블과 함께 상세한 위험 고지 및 적절 사용 시점에 대한 안내가 포함됩니다. 이러한 투명성은 사용자가 자신의 민감 데이터를 다룰 때 스스로 위험 감수 여부를 결정하도록 돕는 중요한 장치입니다.

OpenAI는 지속적으로 안전 및 보안 보호 장치를 강화할 것이며, 해당 기능의 보안이 충분히 확보된다고 판단되면 'Elevated Risk' 레이블을 제거하고 일반 사용에 적합함을 알릴 계획입니다. 이와 같은 다층적인 접근 방식은 AI 기술의 혁신과 사용자 데이터 보호라는 두 마리 토끼를 잡기 위한 노력의 일환입니다.