Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
ChatGPT의 프로젝트 폴더 기능 사용 시 컨텍스트 격리가 완벽하지 않아 정보가 유출되는 현상이 발견되었습니다. 프로젝트 폴더 내 정보가 이후 생성되는 모든 스레드에 영향을 미치는 메모리 유출(memory bleed) 문제가 확인되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기지속적 메모리 프로필(persistent memory profile)을 삭제하고 메모리 설정을 꺼도 이를 방지할 수 없습니다.
일반적인 프로젝트가 아닌 스레드(thread)만 사용하는 계정을 가지고 있다면, (제가 파악한 바로는) 격리된 컨텍스트(isolated contexts)를 경험할 것입니다. 하지만 일단 프로젝트 폴더(project folders)를 도입하면, 해당 폴더 안에 있든 아니든, 혹은 어떤 폴더에 있든 상관없이 그 안의 모든 내용이 이후에 생성하는 모든 스레드에 영향을 미치기 시작합니다.
프로젝트 폴더 스레드로부터 명확한 문체적 및 컨텍스트적 메모리 유출(memory bleed)이 발생합니다. 이는 소급 적용되지는 않습니다.
여러 개의 새로운 프로젝트 폴더를 시작한 다음, 어시스턴트(assistant)에게 이름을 할당한 뒤 그 사이에 새로운 스레드 생성을 쌓아가는 방식으로 실험을 진행할 수 있습니다. 새로운 스레드들은 충분히 높은 빈도로 이전 스레드에서 부여된 이름들을 다시 기억해낼 것입니다.
이름 대신 비밀번호를 사용할 수도 있습니다. "비밀번호 1은 asdf입니다."라고 한 뒤, "비밀번호 1이 뭐야?"라고 물어보는 식입니다.
직접 시도해 보세요. 프로젝트가 시스템의 일부가 되는 순간, 컨텍스트 격리(contextual isolation)는 모호해집니다.