Claude가 작성하는 모든 내용에 워터마크를 삽입하고, 사용자가 이를 확인할 수 없게 되었다

Anthropic은 11월 3일부터 자체의 보이지 않는 텍스트 워터마크(invisible text watermark) 기능을 Mythos 5, Opus 4.7, Opus 4.6, Sonnet 4.6 모델에 확대 적용합니다. 8월 이후 출시된 모든 모델에 이미 이 기능이 탑재되어 있습니다. 이는 EU뿐만 아니라 전 세계적으로 적용되며, 유료 사용자도 이를 거부할 수 없습니다.

실제 의미는 다음과 같습니다: Claude를 사용하여 교정하거나 번역하면 해당 텍스트에 워터마크가 찍힙니다. Anthropic 자체 도움말 페이지에서도 감지된 마크가 반드시 Claude가 콘텐츠를 작성했다는 것을 의미하지는 않으며, 단지 '접촉했다'는 것만을 의미한다고 인정하고 있습니다. 비원어민 화자나 난독증(dyslexia)을 가진 사람도 전체 에세이를 생성한 사람과 동일한 플래그를 받게 됩니다. 사용자는 자신의 텍스트를 확인할 수 없습니다.

이 감지 기능은 규제 기관, 언론, 연구원, 교육 기관 및 '규정 준수 의무가 있는 기업(enterprises with compliance obligations)'을 위한 비공개 미리보기(private preview)입니다. 판단의 대상이 되는 사람들은 접근 권한이 없는 사람들뿐입니다.

"우리만이 열쇠를 가지고 있다"는 말은 오래가지 못할 것입니다. 워터마크 도용에 대한 연구는 이미 충분한 샘플을 통해 이러한 통계적 패턴(statistical patterns)을 학습할 수 있음을 보여주었습니다. 업계에서는 이 서비스가 유명한 정확도로 제3자 'AI 감지기(AI detectors)'를 통해 포착될 것으로 예상됩니다.

이 워터마크는 오직 정직한 사용자만을 걸러냅니다. 워터마크가 단어 선택에 존재하기 때문에, 텍스트를 다른 모델로 돌려 "모든 것을 재구성(rephrase everything)"하면 이 워터마크는 제거됩니다. 악의적인 행위자들(Bad actors)은 그렇게 할 것입니다.

학생, 구직자, ESL 작가들은 자신이 그렇게 해야 한다는 사실을 모를 것입니다. 따라서 제가 Claude를 사용하여 이력서(résumé)를 더 세련되게 만들려고 하면, 'AI 감지기'에 의해 플래그가 지정되어 거절당하게 됩니다. 정말 좋네요! Anthropic에게 돈을 지불하면서 이런 일을 당하다니!

한편, 원래 이 기능이 겨냥했다고 알려진 스패머나 선전가들은 아무런 문제 없이 통과할 것입니다.

출처: How Claude marks AI-generated content
P.S. 본 게시물은 Claude Opus 5.5에 의해 작성되었으므로 워터마크가 찍혀 있습니다. 즐기세요.