SynthID Detector - AI 생성 미디어 워터마크 탐지 도구

제목만 보고 노래 속 소리를 만드는 데 쓴 신시사이저와 설정을 알아내는 도구인 줄 알고 꽤 기대했음.

머지않아 나올 것 같음. 이미 Synplant 2처럼 머신러닝으로 패치를 재현하는 VST가 있음. 그동안은 Synthorial로 배우고 모듈러 신시사이저를 써보길 권함.

기타 이펙트에도 비슷한 도구가 이미 있을까?

악기·보컬·드럼·베이스 정도를 넘어, 더 세밀한 소리 층을 분리할 수 있다면 어떨까?

드디어 나왔음. 이전 구현들은 정말 어처구니없었음. OpenAI 도구는 괜찮았지만 자사 워터마크만 감지했고, Google은 이미지를 Gemini에 올려 AI 생성 여부를 물어보라고 했는데 토큰과 말만 낭비하는 방식처럼 보였음.
다른 댓글에서 Google 이미지 검색을 대안으로 알려줬지만, 내가 읽은 도움말에는 그런 안내가 없었던 것 같아 모르고 있었음.

Gemini에 물어보라는 안내는 다른 챗봇에서도 통한다고 오해하게 만들어 특히 나빴음. 똑똑하고 정보에도 밝은 지인 중에도 Claude에 AI 생성 여부를 물으면 정확한 답을 얻을 수 있다고 여기는 이들이 있음!

Google은 나쁜 쪽이기 때문에 알리고 싶어 하지 않는 것임. 비밀 식별자로 작성한 코드, Reddit 글, 이메일, GitHub README를 전부 연결할 수 있다면 광고주에게 얼마나 많은 돈을 받을 수 있을지 상상해보면 됨.
가령 확보한 Outlook 자료에서 폐업한 회사의 이메일을 찾아 Google PrivateEditAI™로 편집한 YouTube 영상과 대조하고, 해당 계정 주인의 사회보장번호까지 알아내려 할 수 있음.

작동 원리 공개와 일괄·오프라인 판별은 스팸 발송자와 사기꾼이 이 장치를 무력화하는 데 꼭 필요한 요소들이기도 함.

로그인이 필수라는 건 이해하기 어려움. OpenAI 도구(https://openai.com/research/verify/)는 로그인 없이 쓸 수 있음.
Google도 예전에는 잘 알려지지 않았지만 로그인 없이 확인하는 방법을 제공했음. Google 이미지 검색에 이미지를 올리고 "About this image"를 열면 Google AI 생성 여부가 표시됐는데, 지금은 나오지 않음.

이것들은 워터마크가 아니라 감시용 표식(spymark) 임. https://brand.io/article/spymarks/
이 기술에 데이터베이스 식별자와 충분한 식별 정보를 담아 작성자나 다운로드한 사람을 고유하게 특정할 수 있다는 사실을 모두에게 알려야 함. 다른 형태의 매체에도 똑같이 적용됨.

감지되지 않을 때까지 조금씩 수정하는 식으로 역공학이나 워터마크 제거를 시도하는 이들의 요청 횟수를 제한하려는 목적일 것 같음.

상대가 광고 회사 Google이라는 점을 잊으면 안 됨. 이용자의 행동을 기존 데이터와 연결할 수단을 원할 테고, 새 도구를 쓰게 하려면 예전 이미지 검색 결과를 그대로 남겨둘 수는 없을 것임.

워터마크 검출기에 접근할 수만 있어도 워터마크 제거에 활용할 수 있음. 아마 누가 그런 행동을 하는지 추적하려는 것 같음.

Wikipedia 이미지 대량 검사로 가짜가 섞였는지 확인하고 싶었는데, 현실적인 방법이 보이지 않음. OpenAI 도구도 요청 횟수 제한이 낮은 편임.

이건 이용자나 대중을 AI로부터 보호하려는 것이 전혀 아님. 순전히 AI가 자기 생성물을 다시 먹지 않게 하려는 것임. AI 생성 이미지가 AI에 무슨 도움이 되겠는가?
입력에서 그런 이미지를 걸러내야 하니, 자기가 뱉어낸 것을 다시 먹지 않으려는 것임.

이용자나 대중을 보호하려는 목적이 아니라면, EU가 이를 의무화할 이유가 달리 떠오르지 않음.

저품질 생성물을 무차별적으로 다시 집어넣지만 않는다면 AI 생성 이미지도 상당히 유용해 보임. 사람이 고품질이거나 바람직하다고 평가한 생성물은 목적에 따라 좋은 학습 자료가 될 수 있음. 인간도 외부 입력만으로 학습하지는 않음.

도대체 왜 로그인해야 하는 걸까?

아마 SynthID를 역공학해 제거 필터를 만드는 것을 막는 데 도움이 되기 때문일 것임.

당연히 이용자 데이터를 수집하려는 것임.

URL로 바로 들어가면 무슨 서비스인지 알기도 전에 동의부터 요구함. 먼저 동의하지 않고 정체를 알아보려면 여기 댓글까지 와야 했음.