AI Gateway에서의 데이터 미보관 (Zero Data Retention)

여러 AI 모델을 사용하여 빌드한다는 것은 파편화된 데이터 정책과 씨름해야 함을 의미합니다. 수많은 서로 다른 모델 제공업체들로 인해, 이는 단순히 파편화된 수준을 넘어 잘못된 일에 너무 많은 시간을 소비하게 만듭니다. 여러분은 각기 다른 서비스 약관을 읽어야 하고, 어떤 제공업체가 보안 요구 사항을 준수하는지 추적해야 하며, 개발자들이 모든 요청에 대해 옵트아웃 (opt-outs) 설정을 올바르게 구성하기를 바라야만 합니다. 많은 제공업체가 기본적으로 데이터 미보관 (Zero Data Retention, ZDR)을 제공하지 않기 때문에, 단순해야 할 정책이 수동적이고 오류가 발생하기 쉬운 프로세스가 되어 버립니다. [Vercel]은 협상과 집행을 대신 처리함으로써 이 문제를 해결합니다. 제공업체별로 정책을 관리하는 대신, 여러분은 그저 빌드에만 집중할 수 있는 자유를 얻게 됩니다. AI Gateway는 우리가 데이터 미보관 (ZDR) 협약을 맺은 제공업체로만 라우팅함으로써 여러분의 데이터 요구 사항이 자동으로 충족되도록 보장합니다. OpenAI, Anthropic, Google 등의 모델을 제공하는 ZDR 지원 제공업체들이 준비되어 있습니다.

AI Gateway 오늘, 우리는 팀 전체에 적용되는 데이터 미보관 (ZDR) 기능을 통해 AI Gateway의 컴플라이언스 (compliance) 역량을 확장하여, 코드 수정 없이도 팀 전체에 엄격한 데이터 정책을 강제할 수 있도록 합니다. 이제 Gateway의 컴플라이언스 기능에는 대시보드에서의 팀 전체 ZDR, 특정 민감한 워크플로우를 위한 요청별 (per-request) ZDR, 그리고 프롬프트 학습 (prompt training)을 허용하지 않는 명시적 제어 기능이 포함됩니다. AI Gateway 대시보드 설정에서 토글을 켜면, 이후 AI Gateway를 통해 전달되는 모든 요청은 ZDR을 준수하는 제공업체를 통해서만 라우팅됩니다. 팀 전체 ZDR은 Pro 및 Enterprise 팀에서 사용할 수 있습니다. 이는 팀이 수행하는 모든 요청에 적용되며, 코드 변경이 필요하지 않습니다. 이는 누구도 제한 사항을 수정하거나 잘못 적용할 수 없다는 완전한 확신과 함께 제어권을 원하는 팀에 이상적입니다. 요청별 ZDR은 특정 워크플로우에서만 민감한 데이터를 다루는 경우, 특정 요청에 대해 데이터 삭제를 강제할 수 있게 해줍니다. 이는 앱의 특정 쿼리에는 독점적인 정보가 포함되어 있지만 다른 요청들은 그만큼 보호될 필요가 없을 때 유용합니다.

AI Gateway에서 지원하는 모든 API 형식에서 . provider 옵션을 통해 요청 수준의 ZDR (Zero Data Retention)을 활성화할 수 있습니다. 팀 전체 설정과 요청별 설정은 상호 보완적으로 작동합니다. 둘 중 하나라도 활성화되어 있으면 ZDR이 강제됩니다. '프롬프트 학습 금지 (Disallow Prompt Training)'는 제공업체가 귀하의 프롬프트 데이터를 모델 학습에 사용하는 것을 방지합니다. 이는 독점적인 코드, 내부 문서 또는 비즈니스 전략을 LLM (Large Language Model)을 통해 전송하는 모든 팀에게 권장되는 기본 설정입니다. 이 필터는 요청 수준에서 사용할 수 있습니다. ZDR은 이 제어 기능의 상위 집합입니다. ZDR을 활성화하면 학습 거부 (training opt-out)가 이미 포함됩니다. 각 응답에는 어떤 제공업체가 고려되었고 어떤 제공업체가 필터링되었는지를 보여주는 메타데이터가 포함됩니다. 이를 통해 데이터 정책이 어떻게 강제되었는지에 대한 감사 추적 (audit trail)을 확보할 수 있습니다. 이 모든 필터는 AI SDK, Chat Completions API, Responses API, Anthropic Messages API, OpenResponses API와 함께 작동합니다. 데이터를 보호하기 위해 더 이상 모든 라우트(route)에 커스텀 로직을 구현할 필요가 없습니다. 이러한 규칙을 게이트웨이로 이동함으로써, 컴플라이언스 (compliance)는 애플리케이션의 번거로운 작업이 아닌 인프라의 영역이 됩니다. 귀하는 통제권을 되찾고, 팀은 제품 출시를 지속할 수 있습니다. 가격에 대한 자세한 내용은 가격 페이지를 참조하세요. Zero Data Retention 및 프롬프트 학습 금지 (Disallow Prompt Training)를 지원하는 모델과 제공업체는 대시보드에서 확인할 수 있습니다. 지금 바로 대시보드 설정에서 Zero Data Retention을 활성화하거나, 전체 설정 세부 사항은 문서를 읽어보세요.

Zero Data Retention 가격 모델 하위 페이지 대시보드 설정 문서 더 읽기

팀 전체 Zero Data Retention
요청 수준 제어
프롬프트 학습 금지 (Disallow Prompt Training)