워터마크가 아니라 스파이마크

스파이마크는 스테가노그래피의 다른 이름처럼 보임. https://en.wikipedia.org/wiki/Steganography에서 다루는 것과 비슷함.
이를 막는 한 가지 방법은 콘텐츠가 마지막으로 신뢰할 수 있었던 단계의 결과물과 바이트 단위로 동일한지 확인하는 것임. 워터마크를 넣지 않는다고 확신하는 카메라, 이미지 편집기, 압축기 등을 기준으로 삼을 수 있음.
특히 걱정되는 경로는 소셜 미디어임. 대부분의 플랫폼은 업로드한 이미지와 영상을 다시 압축하므로 추적 정보를 끼워 넣기가 너무 쉬움. 들키거나 공개할 때는 밈의 무단 재게시나 작품 도용을 막기 위한 것이라고 정당화할 수 있겠지만, 내 작업물에 추적 정보가 삽입되느니 차라리 도용당하는 편이 나음. 타임스탬프가 포함된 암호학적 서명처럼 훨씬 안전한 수단도 있음.

화면으로 가는 이미지를 가로채 분석하는 데 널리 쓰일 것 같음. 광고와 전환 과정의 모든 단계에 스파이마크를 넣고, 해당 픽셀이 화면에 표시될 때마다 확실하게 보고받는다면 광고 기여도 측정을 ‘크게 개선’할 수 있음.
먼저 저가 노트북과 휴대전화에, 나중에는 아마 대부분의 기기에 이를 상시 탐지하는 저수준 드라이버가 들어갈 것임. 탐지 결과는 보조 앱을 거쳐 외부 서버로 전송될 것임. Apple은 이런 일을 거부할 것 같지만, 다른 제조사들은 이미 TV에서 하는 일을 보면 거리낄 게 없어 보임.
다만 Apple이 거부하더라도 이타심 때문은 아닐 것임. 주 수익원이 제삼자 광고가 아니라 App Store 수수료와 높은 하드웨어 마진이기 때문임.

Apple도 예외라고 단정할 수는 없음. 아마 직접 구현할 것이며, 상시 청취하는 AI 시계와 지능형 기능에 더해질 것으로 보임.

단어 선택으로 정보를 숨기는 예시는 흥미롭지만, 정말 안정적으로 작동하는지 궁금함. 게시물이나 책의 수많은 발췌문에 같은 8비트가 우연히 나타날 테니 훨씬 많은 비트가 필요할 텐데, 정보를 더 넣을수록 문체가 이상해질 수 있음.
예를 들어 “winding”과 “curving” 중 하나를 고르지만, “her gently curving thighs”를 “her gently winding thighs”로 바꾸는 것처럼 서로 대체할 수 없는 용례도 많음. 물론 내가 이해하지 못한 세부 기법이 있을 수 있음.

스파이마크가 ‘보이지 않는 워터마크’보다 나은 이름인지는 모르겠음. 위조지폐 방지처럼 부정적이지 않은 용도도 있는데, 일부러 나쁜 인상을 주려는 이름처럼 들림. SynthID 같은 기술은 텍스트 품질을 떨어뜨리지 않으므로 전반적으로 이롭다고 봄. LLM이 쓴 글이라는 확신이 높을수록 텍스트를 더 투명하게 만드는 브라우저 확장 프로그램이 상시 작동하면 좋겠음. Sean Goedecke의 Deckard가 비슷하지만, 빨갛게 강조하기보다는 흐릿하게 만들고 싶음. https://www.seangoedecke.com/deckard/.
내부고발자의 신원을 드러내는 데 악용할 수 있다는 글의 내용은 미처 생각하지 못했던 흥미로운 부분임. 그래도 스파이마크라는 이름이 더 낫다는 데는 아직 동의하기 어려움.

글에서는 위조 방지용 워터마크는 스파이마크가 아니라고 명시함. 워터마크는 표시된 물건의 정보를 알려줄 수 있지만, 그것을 사용하거나 만든 사람의 정보를 알려주는 것은 별개임.

이런 스파이마크는 AI에게 눈앞에 숨겨진 통신 채널을 만드는 법을 가르치기 좋은 수단임.

스파이마크는 사용자를 추적하므로 부정적임.

워터마크와 추적용으로 표시한 지폐의 차이임. 하나는 진품임을 증명하고, 다른 하나는 추적 도구로 쓰임.

지폐에 쓰이는 것까지 포함해 언제나 부정적이라고 봄.
진정으로 개방적인 직접민주주의가 가능할지 궁금함. 지금의 제도는 모두 우스꽝스러운 대리인들을 거쳐 작동함. 다만 일부의 투표 행태를 보면 직접민주주의는 시민들이 현명해야만 가능할지도 모르겠음.

AI를 쓰느냐 마느냐도 타당한 논점이지만, 내 관심은 로컬 AI와 중앙집중형 AI의 차이에 있음. 하드웨어 가격이 더 저렴해지길 바람. 집값처럼 계속 오르기만 할까 봐 걱정되는데, 부디 기우이길 바람.

이상하게도 글에서 스테가노그래피를 다루지 않음. 보통 식별 정보를 넣는 것이 목적은 아니므로 완전히 같은 개념은 아니겠지만, ‘steganomark’ 같은 이름이 어울릴 것 같음.

SynthID의 비공개 소스와 석연치 않은 이미지 워터마크 확인 방식에 답답함을 느껴, 눈에 보이지 않고 변조에 강한 워터마킹 도구를 만들었으며 오픈소스로 공개할 계획이었음. 워터마크를 독립적으로 해독할 수 있고, 알고리즘이 투명하므로 아무것도 숨길 수 없어 스테가노그래피적인 요소도 불가능하게 했음.
기업이 아닌 일반인도 출처를 쉽게 입증해 감시나 AI 활용에 맞설 수 있도록 만들려는 취지임. 하지만 요즘은 대부분 그렇게 받아들이지 않을 것 같아 공개할지 고민 중임.

누구나 사용할 수 있다면 출처를 어떻게 입증할 수 있는지 궁금함. SynthID의 핵심은 Apple이 하드웨어와 운영체제를 만들기 때문에, 카메라가 사진을 촬영한 뒤 제삼자 소프트웨어가 접근하기 전에 워터마크나 서명을 확실하게 삽입할 수 있다는 것임.
독점적으로 접근할 수 있는 경로가 있으므로 그 키와 서명을 신뢰할 수 있음. 원래부터 믿는 사람이 아니라면 아무개의 ‘AI를 쓰지 않았다’는 서명을 믿지는 않을 것임. 이미 믿는 사람이라면 워터마크 없이 말만으로도 충분함.

그 내용과 함께 링크를 여기 올렸다면 방문자가 꽤 몰렸을 것임.

내 친구가 추적을 교란하는 노란 점 같은 것을 인쇄할 수 있을까?

워터마크를 진위 확인이나 소유권 주장을 위해 물리·디지털 매체에 넣는 가시적 표시로 정의했지만, 최근에는 LG의 감시 TV도 있었음. 여기 EU의 자동차도 운전자 주의력을 확인한다는 명목으로 사람을 감시함. 그 정보를 어딘가로 몰래 올리고 있을지도 모름. Facebook에는 이제 감시 안경도 있고, Flock의 감시 카메라에 분노하는 사람들도 있음.
이제 모두를 상시 감시하는 시대에 들어선 것 같음. 앞으로는 더 작은 기기들로 감시하게 될 것임.