OpenAI 도움말: Lockdown Mode (잠금 모드)

2026년 6월 5일 - Link Blog

OpenAI 도움말: Lockdown Mode (잠금 모드). OpenAI는 지난 2월에 이를 처음 예고했으나, 이제 실제로 출시되어 "Free, Go, Plus, Pro를 포함한 적격 개인 계정 및 셀프 서비스 ChatGPT Business 계정에 배포 중"입니다:

Lockdown Mode (잠금 모드)는 공격자에게 민감한 데이터를 전송할 수 있는 외부 네트워크 요청 (outbound network requests)을 제한함으로써, 프롬프트 인젝션 (prompt injection) 공격에 의한 데이터 유출 (data exfiltration)의 최종 단계를 방지하도록 설계되었습니다. Lockdown Mode는 ChatGPT가 처리하는 콘텐츠에 프롬프트 인젝션이 나타나는 것 자체를 방지하지는 않습니다. 예를 들어, 프롬프트 인젝션이 캐시된 웹 콘텐츠나 업로드된 파일에 포함되어 나타날 수 있으며, 이 경우 여전히 응답의 동작이나 정확도에 영향을 미칠 수 있습니다.

이 기능은 저에게 매우 좋아 보입니다.

치명적인 삼중 위협 (The Lethal Trifecta)은 LLM 시스템이 개인 데이터에 대한 접근 권한, 신뢰할 수 없는 콘텐츠에 대한 노출, 그리고 데이터를 훔쳐 공격자에게 다시 전송할 수 있는 수단을 모두 가질 때 발생합니다.

이 삼중 위협을 해결하는 유일한 방법은 세 가지 요소 중 하나를 차단하는 것이며, LLM 시스템의 유용성을 크게 떨어뜨리지 않으면서 제한하기 가장 쉬운 요소는 단연 데이터를 훔치기 위한 유출 벡터 (exfiltration vectors)입니다.

제가 보기에는 Lockdown Mode가 결정론적 (deterministic)인 메커니즘을 사용하여 해당 요소를 직접 공격하는 것으로 보이며, 결정적으로 이 메커니즘은 충분히 교묘한 공격에 의해 스스로 전복될 수 있는 AI 시스템에 의해 평가되지 않습니다.

하지만 Lockdown Mode의 존재는 ChatGPT가 기본 설정 상태에서는 충분히 결연한 데이터 유출 공격에 대해 강력한 보호를 제공하지 않는다는 점을 시사합니다!

최근 기사

• Claude Opus 4.8: "겸손하지만 실질적인 개선" - 2026년 5월 28일
• Anthropic과 OpenAI가 제품-시장 적합성 (product-market fit)을 찾은 것 같다 - 2026년 5월 27일
• AI에 관한 교황 레오 14세의 회칙에 관한 노트 - 2026년 5월 25일