Google의 AI가 조작되고 있다. 검색 거물은 조용히 반격 중이다

BBC의 조사 결과, AI 챗봇이 대중에게 잘못된 정보 (misinformation)를 내뱉도록 만드는 간단한 방법이 밝혀졌다. Google과 다른 AI 기업들은 현재 이 문제를 해결하기 위해 노력하고 있다.

나는 지난 2월에 어리석은 짓을 저질렀다. AI 챗봇을 오염시켜 당신을 대신해 거짓말을 퍼뜨리게 만드는 쉬운 방법이 있다는 이야기를 들었기 때문이다. 조사를 좀 해보니, 부도덕한 기업들이 이 문제를 대규모로 악용하고 있다는 사실을 알게 되었다. 그래서 나도 직접 시도해 보기로 했다.

우리는 ChatGPT, Gemini, 그리고 Google 검색 상단의 AI Overviews가 건강이나 개인 금융처럼 심각한 주제에 대해 편향된 답변을 제공하도록 조작되는 사례들을 발견했다. 그리고 단 20분 만에, 나는 ChatGPT와 Google을 속여 내가 세계 챔피언 경쟁 핫도그 먹기 선수라고 대중에게 말하게 만들었다. 농담처럼 보일지 모르지만, 문제는 심각하다.

하지만 이 속임수는 통했다. 우리의 조사와 이 문제를 모니터링해 온 연구자들의 작업은 광범위한 비판을 불러일으켰다. 이제 Google은 이 문제를 해결하기 위해 정책을 업데이트했으며, 다른 AI 기업들도 이를 따르고 있다는 징후가 보인다. 궁극적으로 이는 AI 도구와 인터넷 전체를 조금 더 안전하게 만들 수 있다.

하지만 더 나은 시스템이 마련될 때까지, 전문가들은 당신이 속을 위험에 처해 있다고 말한다.

검색 엔진 최적화 (SEO) 및 AI 검색 컨설팅 업체인 Algorythmic의 설립자 Lily Ray는 "더 나은 시스템이 갖춰질 때까지는 당신이 조작당하고 있다고 가정해야 합니다"라고 말한다. "우리는 '단 하나의 진실된 답변'이 존재하는 세상으로 나아가고 있습니다. 이전에는 Google이 10개의 파란색 링크 (10 blue links)를 제공하여 당신이 나름대로 조사를 할 수 있게 했지만, AI는 단 하나의 답변만을 제공합니다. 따라서 상황을 액면 그대로 받아들이기가 너무 쉬워집니다. 주의가 필요합니다."

Google은 자사의 정책 업데이트가 그동안 기울여 온 노력에 대한 단순한 "명확화 (clarification)"일 뿐이라고 말합니다. Google 대변인은 "우리는 오랫동안 핵심 스팸 방지 정책과 보호 조치를 생성형 AI 검색 (generative AI Search) 기능에 적용해 왔으며, AI가 부상하기 전부터 새로운 전술에 앞서 나가기 위해 스팸 대응 노력을 지속적으로 업그레이드해 왔습니다"라고 밝혔습니다.

본질적으로 Google은 아무것도 바꾸지 않았다고 말합니다. 하지만 막후에서는 Google과 다른 기업들이 이 문제를 해결하기 위해 노력을 강화하고 있는 것으로 보입니다. 그럼에도 불구하고, 사람들이 세계 최대의 검색 엔진을 속이기 위해 정확히 동일한 기술을 여전히 사용하고 있다는 증거가 있습니다.

문제점

일반적으로 챗봇에게 질문을 하면, AI는 모델에 내장된 데이터를 기반으로 응답을 생성합니다. 하지만 때때로 ChatGPT, Claude 및 Google의 다양한 AI 제품과 같은 도구들은 답변을 찾기 위해 인터넷을 검색합니다. 그리고 바로 이 지점에서 문제가 발생합니다.

Ray와 다른 검색 엔진 전문가들에 따르면, AI 도구들은 종종 단 하나의 웹 페이지나 소셜 미디어 게시물에서 정보를 가져와 내놓곤 합니다. 이는 이러한 시스템을 허위 정보에 취약하게 만듭니다.

그리고 챗봇이 대중에게 전달하는 내용을 조작하는 것이 온라인 어디에서든 잘 작성된 블로그 게시물 하나를 게시하는 것만큼이나 간단할 수 있다는 사실이 밝혀졌습니다. 사람들은 이를 알아차렸고 빠르게 수익 창출 기회로 식별했습니다.

저는 제 개인 웹사이트에 저의 핫도그 먹기 실력에 관한 기사 하나를 게시함으로써 이 문제를 입증할 수 있었습니다. 다음 날, 세계 최대 기업들의 AI가 저의 거짓말을 퍼뜨리고 있었습니다. 하지만 우리의 조사 결과, 의료 보충제에 대한 건강 우려를 일축하거나 은퇴에 대해 Google의 AI가 제공하는 금융 정보에 영향을 미치기 위해 동일한 속임수가 사용되고 있다는 사실도 발견했습니다. 전문가들은 이러한 종류의 조작이 광범위하고 체계적인 수준에서 일어나고 있다고 말합니다.

Keeping Tabs

Keeping Tabs

Thomas Germain은 BBC의 시니어 기술 저널리스트 (senior technology journalist)입니다. 그는 Keeping Tabs 칼럼을 집필하며, 팟캐스트 The Interface의 공동 진행자로 활동하고 있습니다. 그의 작업은 여러분의 디지털 삶을 움직이는 숨겨진 시스템과, 그 안에서 어떻게 더 나은 삶을 살 수 있는지를 밝혀냅니다.

이와 같이 편향되거나 부정확한 정보는 여러분이 잘못된 결정을 내리도록 유도할 수 있습니다. 이는 여러분의 투표 방식이나 어떤 배관공을 고용할지 같은 결정에 영향을 미칠 수 있습니다.

SEO 컨설팅 업체인 Harps Digital을 운영하는 Harpreet Chatha는 "가장 기본적인 수준에서의 우려는 경제적 영향입니다"라고 말합니다. "더 심각한 수준에서는, 이전보다 상태를 더 악화시키는 의료 조언을 따를 수도 있습니다. 법적으로는 잘못된 정보를 얻어 귀하의 주(state)나 국가에서 불법인 행동을 하게 될 수도 있습니다."

해결책은?

이것은 결코 사소한 문제가 아닙니다. 전 세계적으로 10억 명 이상의 사람들이 정기적으로 AI 챗봇 (AI chatbots)을 사용하며, 25억 명의 사람들이 매달 Google의 AI 개요 (AI overviews)를 확인합니다. 만약 그런 도구를 조작할 수 있다면, 그것은 엄청난 권력을 갖게 되는 것과 같습니다.

하지만 Google과 다른 기업들도 마침내 이 문제에 대해 깨어나고 있는 것으로 보입니다.

지난주, Google은 AI 응답을 조작하려는 시도가 회사의 규칙에 어긋난다는 점을 공식적으로 확인하기 위해 스팸 정책 (spam policies)을 업데이트했습니다. 이는 작은 변화처럼 들릴 수 있지만, Google이 시스템을 악용하려는 자들을 선제적으로 찾아내고 그들에게 경고를 보내고 있다는 신호입니다. 만약 어떤 기업이나 웹사이트가 규칙 위반으로 적발될 경우, Google의 검색 결과에서 삭제되거나 순위가 하락 (downranked)될 수 있습니다. 그리고 Google에 존재하지 않는다면, 그것은 마치 존재하지 않는 것과 같습니다.

Google은 제가 이를 잘못 이해하고 있으며 아무것도 변하지 않았다고 말합니다. Google의 대변인은 "지난주 저희 스팸 정책 문구의 수정은 명확하게 하는 과정이었을 뿐, 접근 방식의 변화는 아닙니다"라고 말합니다.

실제로 Google은 2025년에 자사의 안티 스팸 (anti-spam) AI 노력을 상세히 설명했습니다. 하지만 저는 거의 1년이 지난 후에 저의 핫도그 실험을 수행했고, 분명히 그러한 노력들은 효과가 없었습니다. 그리고 바로 이번 주, 한 SEO 전문가가 동일한 수법을 사용하여 Google이 사람들에게 자신이 모래성을 잘 쌓는다고 말하게 만들었습니다.

Ray와 Chatha는 또한 최근 몇 달 동안 Google과 다른 기업들이 해결책을 실험하고 있음을 나타내는 몇 가지 중요한 변화를 목격했다고 말합니다.

예를 들어, Ray는 Google과 ChatGPT가 특정 기업이 스스로를 홍보하고 있다고 의심될 때, AI 답변에서 해당 기업들을 조용히 제거하고 있는 것으로 보인다고 말합니다. "따라서 만약 당신이 자신이 최고의 핫도그 먹보라고 주장하는 목록을 게시한다면, 그들은 당신의 이름을 포함하지 않을 것입니다."라고 Ray는 설명합니다. "당신의 기사를 인용할 수는 있겠지만, 고려 대상에서는 제외될 것입니다."

저는 개인적으로 Google과 다른 AI 도구들이 답변에 더 많은 라벨을 추가하여, 챗봇이 자신의 답변에 대해 확신이 없음을 사용자에게 알리는 몇 가지 사례를 목격했습니다. 다른 이들은 또한 ChatGPT와 Anthropic 사가 만든 AI인 Claude가 일부 질의에 대한 답변에서 스팸을 근절하려고 노력 중이라고 명시적으로 말하기 시작했다는 점에 주목했습니다. Ray는 Google이 더 많은 주의 사항(caveats)을 추가하고 있으며, 구매 결정과 관련된 질문을 할 때 제3자의 리뷰를 확인해 볼 것을 권장하는 것을 목격했다고 말합니다.

제가 이 질문들을 던졌을 때, 이 기업들 중 어느 곳도 이러한 변화를 인정하지 않았습니다. OpenAI와 Anthropic은 논평을 거부했습니다. Google의 대변인은 이 질문에 응답하지 않았습니다.

이와 유사한 내용:

그럼에도 불구하고, Chatha는 이러한 변화들이 충분할지에 대해 회의적입니다. "Google은 두더지 잡기(whack-a-mole) 게임을 하고 있는 격입니다."라고 그는 말합니다. "그들은 사람들을 저지하기 위해 [정책 업데이트를] 발표하고 있지만, 수법은 그저 옮겨갈 뿐일 것입니다."

그는 이미 그런 일이 일어나는 것을 보고 있습니다. Google이 조작적인 블로그 게시물을 단속함에 따라, 기업들은 자신을 홍보하는 더 미묘한 방법들을 찾아내고 있습니다. "특정 웹사이트에 대해 기업에 페널티를 줄 수는 있지만, 20명의 YouTube 인플루언서에게 돈을 주고 자신들의 제품이 최고라고 말하게 하는 것을 막을 방법은 없습니다."라고 그는 말합니다. 그리고 이제 Google의 AI는 YouTube 영상을 인용하고 있습니다. 이 순환은 계속됩니다.

당분간 조작자들은 한 발 앞서 나갈 가능성이 높습니다. Ray는 최선의 방어책은 AI가 실제로 무엇인지 기억하는 것이라고 말합니다. 즉, AI는 그것이 맞든 틀리든 당신에게 단 하나의 답변을 자신 있게 제공하는 도구라는 점입니다. 거대한 기술 기업이 무작위 웹사이트 대신 당신에게 말을 거는 것처럼 보인다고 해서, 반드시 신뢰해야 한다는 뜻은 아닙니다.