YouTube에서 구강성교를 노골적으로 연상시키는 청소 서비스 광고 같은 성인용 광고를 자주 봄. 어떻게 심사를 통과하는지 궁금했는데, 결국 아무도 제대로 심사하지 않는 듯함

Google Play Store가 한 자릿수 나이를 정확히 등록한 아이에게 침대 위 피투성이 시신이 등장하는 18세 이상 게임 광고를 보여줬음. 신고 후 일주일이 지나도 그대로여서 Apple로 옮김

노골적인 성적 광고를 신고했더니, "Dear Username"으로 시작하며 검토 결과 문제가 없다는 AI 생성형 답변이 돌아옴

광고 제작자들이 필터와 심사를 계속 우회할 수 있을 만큼 충분한 자원을 갖춘 것도 또 다른 이유임

YouTube 앱과 Google 검색의 명백한 사기 광고를 보면 Twitter/X처럼 검증과 심사의 기준은 광고주가 돈을 냈는지뿐인 듯함

YouTube에는 수년 전부터 명백한 사기 광고가 있었으니, 사실상 심사하지 않는 것도 놀랍지 않음

벌금이 그저 사업 비용에 불과한 동안은 행동을 바꾸지 않으며, 실제로 타격을 줄 만큼 커져야 함

기업 매출의 일정 비율로 벌금을 정하는 최근 EU 규제가 마음에 듦. 규정 준수 예산에 사실상 최저선을 설정하기 때문임
규정 준수에 투자하지 않고 벌금을 내거나, 비효율적으로 돈을 쓰고도 벌금을 내거나, 충분히 잘 투자해 심사를 통과하고 벌금을 피하는 세 선택지만 남으면 결국 기업도 해법을 찾게 됨

“낼 수 있으면 괜찮으니까 벌금(fine)이라고 부른다”는 말이 어울림

사용자가 10억 명이면 수억 명을 잃어도 큰 타격이 없을 수 있음. 정부가 개입해 순이익에 실질적인 타격을 주는 거액의 벌금을 계속 부과해야 멈출 가능성이 큼
이런 규제를 원치 않는 사람도 많지만, 어느 시점에는 누군가 강제로 제동을 걸어야 함

문제를 고치는 비용이 사회에 끼치는 실제 피해보다 크다면 고치지 않는 편이 맞으며, 벌금도 그에 맞춰 정해야 함
실제 벌금이 그렇게 산정되는지는 의문이고, 이번 사안은 평판 손상만으로도 고쳐질 수 있겠지만 일반론으로는 그러함

남이 저지르거나 충분히 부유하지 않을 때만 범죄이고, 부자가 저지르면 실수로 취급되는 듯함

보통 그런 걸 조직범죄라고 부름

Meta 광고는 엉망임. 독일 금융 콘텐츠 회사 Finanzfluss의 공동 창업자 Thomas Kehl은 사기꾼들이 계속 자기 사진을 도용해 현재 Meta를 고소 중임
Meta는 사기 광고 판매로 수익을 얻으므로 더 강한 처벌이 필요함

대기업에 이런 문제를 신고하고 실제 조치까지 이끌어내는 데 지나치게 오래 걸림. 10년 전 비슷한 Giphy 광고를 신고했을 때도 처리에 몇 달이 걸렸음

Facebook에서 직접 시험해 보니, 이용 약관을 아무리 심하게 위반한 메시지도 최초 신고는 몇 분 안에 100% "no action"으로 돌아왔음
하지만 그 뒤의 "request another review" 기능은 실제로 작동하는 듯했고, 조치까지 하루에서 수주가 걸렸음

Meta는 워낙 거대해서 신경 쓰지 않아도 되지만, 작은 제공업체는 한 번만 늦게 처리해도 무너질 수 있어 필사적으로 대응해야 함

사용자가 아니라 광고주가 고객이므로 이상할 것도 없음. 고객이 만족하며 더 많은 광고를 사게 만드는 것이 목표임

먼저 문제 대응 절차와 조직을 만든 뒤 뉴스에서 사라질 때까지 기다리고, 비판한 정치인의 반대편에 로비 자금을 댄 다음, “팀이 열심히 대응 중”이라는 말이 거짓이 아닐 정도까지만 조직 예산을 줄이는 방식임
예컨대 저임금 국가의 직원 12명에게 터무니없이 적은 급여를 주는 수준으로 유지할 수 있음

이런 문제는 실무적 난점과 일방적인 비난 양쪽 모두 흥미로움. Meta가 선하거나 정직한 회사는 아니지만, 그렇다고 전혀 노력하지 않는다고 보기도 어려우며 상상하기 힘든 규모의 콘텐츠 심사는 거의 불가능에 가까움
광고에 관대할 금전적 유인은 있지만 아동 성착취물(CSAM)은 광고 수익보다 손실이 클 가능성이 큼. 지난해 3,600만 건을 삭제했다면 매초 한 건 이상이 유입된 셈이고, 심사 정확도가 99%여도 연간 36만 건이 노출됨
모든 광고를 무오류인 사람이 검토하고 직원 한 명의 총비용을 연 6만5천 달러, 2분당 광고 하나와 연 6만5천 건 검토로 잡으면 건당 약 1달러임. CSAM이 광고 1,000개 중 하나라면 연 360억 개를 검토해야 하며, 광고 총매출의 23%와 심사 인력 55만 명이 필요함
Meta는 백만 건당 몇 건만 실패해도 수만 건의 악성 광고가 노출되는 체계를 만들었고, 그 정확도에 도달할 유인도 역량도 부족해 보임

대부분 동의하기 어려움. Facebook 계정 개설 때 온갖 개인식별정보(PII) 를 요구하듯 광고 계정에도 동일하게 요구하고, CSAM을 배포하면 차단하면 됨
WhatsApp 접근권까지 없애면 세계 상당수의 참여를 막을 수 있고, 적용할 수 없는 지역은 Facebook과 Instagram 광고를 금지하면 됨

연간 광고 360억 개라면 사용자마다 매년 고유한 맞춤 광고 10개를 받는다는 뜻이라 몇 자릿수나 과장된 비현실적 추정임
심사 비용을 광고 게재 비용에 포함하면 진지한 광고주만 참여하게 되어 자율적으로 조정될 수 있음. 공공 게시판처럼 운영하면서 노출 수익을 챙기는 사업 모델은 사회에 최선이 아니며, 광고 사업이 이렇게 수익성이 높아서는 안 될 수도 있음

신규 광고주나 평판이 낮은 광고주만 검토하고, 최소 광고비를 높이며, 요청 속도를 제한하면 55만 명을 크게 줄일 수 있음. 명백히 CSAM이 아닌 광고를 먼저 걸러 모호한 것만 검토하는 방법도 있음
심사자는 평균 분당 한 개 이상 볼 수 있을 것이며, 중복 검증을 두고 여러 광고를 한 화면에서 동시에 검토하면 더 효율적일 수 있음. 그래도 결국 확률 문제라 일부는 빠져나갈 수밖에 없음

Meta는 아직도 정치인에 대한 폭력을 암시하는 광고를 게재하며, 신고해도 정책 위반이 아니라고 답함

모든 콘텐츠를 편집자가 감독하는 지역 신문보다 지금 방식이 정말 나은지 의문이 들기 시작함

그래서 Meta가 연령 확인, 즉 신분증 확인을 위해 로비하는 것인지 궁금함

Meta가 연령 확인을 위해 로비하는 이유는 개방형 웹에 맞서 제도적 해자를 만들 수 있기 때문임

연령 확인과 신분증 확인은 같지 않으며, Meta가 둘 다 로비했을 수는 있음
Meta는 사람을 더 잘 추적하고, 부실하게 설계된 법으로 신규 경쟁자에게 높은 초기 투자 장벽을 세워 성장하지 못하게 하려고 특정한 연령 확인 방식을 밀고 있음