Claude가 생성한 텍스트에 보이지 않는 지문(Fingerprint)을 남기다

이미지는 복사 방지 처리를 위해 워터마크를 넣을 수 있습니다. 그런데, 이것 좀 보세요. Claude AI가 이 AI로 생성하는 텍스트에도 워터마킹을 할 것이라고 발표했습니다. 언제부터요? 언제 시작하나요? 음, Anthropic이 지금 이걸 배포하고 있습니다. 네. 제가 이걸 지지해서 말씀드리는 건 아니지만, 여러분 같은 학자분들이 공공에 알릴 수 있도록 아는 것이 중요하다고 생각해서 알려드립니다. 그래서 이 텍스트 조각은 워터마크가 찍혀 있습니다. 잠깐만요? >> [웃음] >> 로고를 넣어서 이미지는 워터마킹할 수 있지만, 텍스트는요?

텍스트를 어떻게 워터마킹하나요? 숨겨진 문자를 넣는 건가요? 아닙니다. 이 논문은 인간에게는 보이지 않지만 기계로는 감지 가능한 텍스트의 지문(fingerprint)에 대해 설명합니다. 심지어 복사-붙여넣기나 일부 편집을 거쳐도 살아남습니다. 어느 것에는 살아남지 않는지는 잠시 후에 말씀드리겠습니다. 따라서 텍스트를 생성할 때, AI는 다음 단어가 무엇이 되어야 할지 결정하며, 몇 가지 후보가 있을 수 있습니다. 여기서는

한 단락에서 21개의 단어를 발견하면, 그것이 인간에 의해 작성되었을 확률은 복권 당첨보다 낮아질 수 있습니다. 녹색으로 표시된 단어는 아무리 눈에 띄지 않더라도 무엇이든 될 수 있으므로 알아차릴 수 없습니다. 어떤 단어가 녹색일지는 시간이 지나도 바뀔 수 있습니다. 아픔. 이것은 알고리즘의 단순화된 버전입니다. 그들은 문맥 의존적 확률과 토너먼트 시스템을 가진 SynthID 변형을 사용하고 있을 가능성이 높습니다. 하지만 제가 읽은 대부분의 연구 논문에서 알고리즘의 핵심은 동일합니다.

특정 단어들이 선호되어 생성 과정에서 약간의 우위를 부여받으면서 고유한 지문을 만듭니다. 이제 이와 관련하여 많은 오해가 있습니다. 첫째, Claude가 작성한 텍스트는 당신에게 추적될 수 없다고 하지만, 이는 Claude가 전체 내용을 작성했거나 텍스트를 대폭 수정했다는 것을 보여줍니다. 저는 이에 동의하지 않습니다. 제가 이 영상을 만드는 것은 모두가 알게 하기 위함입니다. 지식은 사람들에게 도달할 때만 세상을 변화시킵니다. 둘째, 어떤 이들은 '몇 단어만 수정하면 깨끗해진다'고 말합니다. 아닙니다. 그렇게 쉽게 제거할 수는 없습니다.

그렇다면, 제거할 수 있을까요? 학자 여러분, 이것은 Two Minute Papers의 Dr. Károly Zsolnai-Fehér입니다. 가벼운 편집으로는 안 됩니다. 전체 내용을 다시 작성하여 모든 단어를 교체한다면, 네, 제거할 수 있습니다. 사용자에게 작동하는 오픈 웨이트 LLM도 도움이 될 수 있습니다. 자, 그럼 텍스트에 워터마크가 있는지 확인할 수 있는 사람은 누구일까요? 글쎄요, 당신도 저도 아닙니다. 일부 적격한 기관은 할 수 있지만, 현재로서는 그게 전부입니다. 그렇다면 해결책은 무엇일까요? 물론, 무료 오픈 웨이트 AI 시스템을 사용하고 직접 실행하는 것입니다.

이것들은 당신에게 작동하며, 당신에 반대하지 않습니다. [music] 이것이 학자의 방식입니다. 우리는 LLM 시대에 새로운 도구가 필요하며, weights and biases가 LLM 애플리케이션을 자신 있게 반복할 수 있도록 가벼운 툴킷을 만들었습니다. 추적(traces)을 사용하여 데이터가 앱의 각 단계를 거쳐 어떻게 흐르는지 디버깅하고, 평가(evaluations)를 사용하여 진행 상황을 측정하세요. 이것이 최고입니다. 지금 wnb.me/papers에서 사용해 보거나 아래 설명란에 있는 링크를 클릭하세요.