Google, AI를 '조작'하려는 시도를 포함하도록 스팸 규칙 업데이트
요약
Google은 검색 결과에서 자사 AI 모델을 '조작'하려는 모든 시도를 스팸으로 간주하도록 정책을 업데이트했습니다. 이 정책은 AI Overview나 Search의 AI Mode를 포함하며, 사용자를 속이거나 검색 시스템을 조작하는 기술 전반에 적용됩니다. 특히 콘텐츠 순위를 인위적으로 높이거나 생성형 AI 응답을 조작하려는 시도들이 스팸으로 분류될 예정입니다.
핵심 포인트
- Google은 AI 모델 '조작' 시도를 스팸 정책에 포함시켰습니다.
- 스팸의 정의는 사용자 기만 및 Search 시스템 조작 기술 전반을 포괄합니다.
- 콘텐츠 순위 인위적 조작이나 생성형 AI 응답 조작 시도가 주요 감지 대상입니다.
- 사용자들이 사용하던 '최고의 리스트' 형식이나 '추천 독성(recommendation poisoning)' 같은 기법도 스팸으로 간주됩니다.
Search Engine Land의 보도에 따르면, Google은 검색 결과에서 자사의 AI 모델을 "조작"하려는 시도를 스팸으로 분류하도록 스팸 정책을 업데이트했습니다. 여기에는 AI Overview 또는 Search의 AI Mode에서의 결과가 포함됩니다: "Google Search의 맥락에서 스팸이란 사용자를 속이거나, 콘텐츠가 눈에 띄게 노출되도록 당사의 Search 시스템을 조작하는 데 사용되는 기술을 의미합니다. 예를 들어, Search 시스템을 조작하여 콘텐츠의 순위를 높이려 시도하거나, Google Search의 생성형 AI (Generative AI) 응답을 조작하려는 시도 등이 포함됩니다." 일부 사용자들은 편향된 "최고의(best-of)" 리스트 형식의 글(listicles)이나, LLM에 ...을 주입하는 "추천 독성 (recommendation poisoning)"과 같은 전술을 사용하여 AI 검색 응답에 영향을 미치려 시도해 왔습니다. 전체 이야기는 The Verge에서 확인하세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 The Verge AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기