Anthropic의 Claude Mythos/Fable 모델 신규 이용 약관 분석

이번 글은 Anthropic사에서 오늘 발표된 Claude의 Mythos 클래스 모델 데이터 보존에 관한 새로운 이용 약관을 설명합니다.

※영향을 받는 것은 오늘 발표된 Mythos/Fable 클래스의 모델만입니다. Opus/Sonnet/Haiku 모델에는 영향을 미치지 않습니다.

오늘부터 아래와 같은 규정이 새롭게 추가되었습니다.

To ensure we’re responsibly deploying Mythos-class models, we are requiring limited data retention and review as part of our safety work. Prompts submitted to, and outputs generated by, Mythos-class models are retained for 30 days for trust...

AWS 페이지에도 아래와 같은 규정이 기재되어 있었습니다.

Data retention
For Fable 5, Mythos 5, and future models on Bedrock with similar or higher capability levels,
Anthropic will require 30-day retention for all traffic on Mythos-class models.
...

이 규정에 대해 간단히 설명하자면, '앞으로 Mythos 클래스 모델에 대해서는 사용자가 입력한 정보를 강제로 30일 동안 모델 학습을 위해 Anthropic 측에서 데이터를 보존한다'는 내용입니다.

원래 Claude의 엔터프라이즈 사용자나 Amazon Bedrock 경유 이용 시에는 명확하게 '사용자가 입력한 정보는 모델 학습에 이용하지 않는다'고 명시되어 있었습니다.

회사 내부적으로 생성형 AI 사용 요건 중 하나로, 이 '사용자가 입력한 정보는 모델 학습에 이용하지 않는' 모델을 채택하는 것이 필수 요건인 기업이 많다고 생각합니다.

Anthropic사의 규정에는 아래와 같은 기재도 있습니다.

사용자가 입력한 정보에 대해 Anthropic 측에서 엄중한 보안 관리를 수행하여 대화 내용 자체에도 접근할 수 없도록 하고 있다는 것입니다.

Anthropic employees cannot access your conversations unless they are flagged for potential serious harm or upon a customer’s written request.
These reviews can only be performed by a small set of approved reviewers through tooling that prevents export, copying, or downloading.
Every instance of access is recorded in a tamper-proof log that reviewers cannot suppress or modify. After 30 days, the data is deleted automatically,
...

이 데이터 보존에 관한 규정 개정을 받아 Mythos/Fable의 이용 가능 여부는 자사 및 고객사의 보안 담당자를 포함하여 판단할 필요가 있습니다.

새로운 이용 약관을 모른 채 Mythos/Fable을 사용하게 되면 최악의 보안 인시던트가 발생할 가능성이 있으므로, 반드시 이 규칙은 확인해야 합니다.

※덤과 광고

LLM의 입출력 데이터는 기밀 정보를 포함할 가능성이 있어 매우 엄중한 보안 관리가 필요합니다.

최근에도 Amazon Bedrock에서 이러한 데이터 취급에 대한 해설 블로그를 올린 적이 있습니다.

관심 있는 분은 아래 블로그를 확인해 주시기 바랍니다.