AutoTrust의 Hugging Face 모델이 수천 개의 조작된 '좋아요' 덕분에 트렌딩하는 현상

여러분 중 일부는 Hugging Face에서 AutoTrust에 대해 알고 있을 것입니다. 그들의 많은 모델들이 HF 메인 페이지에서 트렌딩했으며, 매우 인상적인 결과를 주장했습니다. 하지만 해당 조직의 모델들을 살펴보고 '좋아요'를 클릭해 보면 뭔가 좀 이상하다는 것을 알아차릴 수 있습니다: https://preview.redd.it/ttx82ky385wh1.png?width=1586&format=png&auto=webp&s=3b5bc49283b1f19fa71f3a514409ab19f97f349f 이 계정들은 정말 믿기 어려울 정도로 사실적으로 보이지 않나요? 자, 몇 가지 계정들을 살펴보겠습니다 (제 그래픽 디자인 실력이 매우 형편없다는 점 사과드립니다): https://preview.redd.it/wi4bnot485wh1.png?width=2132&format=png&auto=webp&s=ab82f099eddd86b52d101a1ad2dc4955eae53000 이 모든 계정들에서 우리는 패턴을 발견할 수 있습니다: 무작위 이름 생성기에서 나온 것처럼 보이는 가짜의, 사실적인 이름. 그 가짜 이름을 변형한 사용자 이름. 종종 존재하지 않거나 이름과 관련 없는 가짜 소셜 미디어 프로필. AI가 생성한 소개글(bio). 그리고 몇 개의 무작위 논문/모델 등 '좋아요'를 누른 후 목표 모델에 대한 좋아요. 또한 운이 좋다면 사실적으로 보이게 하는 가짜 작은 모델도 있습니다. 위는 우리가 볼 수 있는 사용자 계정 중 극히 일부일 뿐입니다. 저는 Google, Meta, Hugging Face 등의 일반적인 모델들에 대한 분석을 수행하고 AutoTrust의 모델들과 비교했습니다. 그 결과는 매우 명백합니다: https://preview.redd.it/nus7nfm585wh1.png?width=1680&format=png&auto=webp&s=9897784a541fbada4a7308c7ba7d6daa3ea311ee u/prithivMLmods는 AutoTrust 스페이스의 '좋아요'에 대해서도 분석을 수행했고(허가를 받아 공유함) 흥미로운 결과를 발견했습니다 (여기를 참고하세요): https://preview.redd.it/bhk3goh685wh1.png?width=1324&format=png&auto=webp&s=29ec454b2abbdc93eba81782645e24bc0dd299c2 다시 Prithiv가 공유한, AutoTrust 모델에 '좋아요'를 누른 계정들의 가입 날짜 분포입니다: https://preview.redd.it/q2s08ws785wh1.png?width=1464&format=png&auto=webp&s=56946d388b321ba1b89f8c029df55946228a1f34 전반적으로, 누군가가 AutoTrust의 모델과 스페이스를 HF 트렌딩 목록 상위로 봇팅(botting)하고 있다고 상당히 자신 있게 말할 수 있을 것 같습니다.

물론 이것이 AutoTrust의 것인지 확실히 알 수는 없습니다. 하지만 이런 계정들을 생성하고, hCaptcha와 AWS WAF를 해결하며, 수천 개의 가짜 모델을 생성하는 것은 저렴할 리가 없습니다. 특히 이렇게 큰 규모로 말이죠. 흥미롭지 않나요? 🤔 /u/mrfakename0 님이 제출한 이 내용에 대해 AutoTrust가 뭐라고 말하는지 듣고 싶습니다 [링크] [댓글]