원문은 The Searchless Journal에 처음 게시되었습니다.

AI 기반 검색 엔진의 부상은 웹 검색 엔진 자체의 발명 이후 인간이 정보에 접근하는 방식에 있어 가장 중대한 변화 중 하나를 나타냅니다. Perplexity, Gemini를 보유한 Google, 검색 제품을 보유한 OpenAI, 그리고 다양한 스타트업들은 매력적인 약속을 제공합니다. 어떤 질문이든 입력하면 여러 소스에서 추출된 포괄적이고 합성된 답변을 받는 것입니다. 더 이상 10개의 파란색 링크(blue links)를 클릭할 필요가 없습니다. 파편화된 페이지에서 정보를 조각조각 모을 필요도 없습니다. 무관한 결과를 지나치며 스크롤할 필요도 없습니다. 사용자 경험은 마법 같고, 효율적이며, 압도적으로 편리하게 느껴집니다. 하지만 이 매끄러운 인터페이스 뒤에는 대부분의 사용자가 전혀 고려하지 않는 숨겨진 비용의 복잡한 망이 존재하며, 이 비용은 구독료나 프리미엄 등급을 훨씬 넘어섭니다.

첫 번째이자 가장 즉각적으로 우려되는 비용은 개인정보 보호 (Privacy)입니다. 전통적인 검색 엔진은 오랫동안 사용자의 쿼리 (queries), 클릭, 브라우징 행동, 그리고 위치 정보에 대한 방대한 양의 데이터를 수집해 왔습니다. 이러한 데이터 수집은 개인화된 결과, 타겟 광고, 그리고 검색 알고리즘의 지속적인 개선을 가능하게 했습니다. 그러나 AI 검색 엔진은 이러한 데이터 수집을 완전히 새로운 수준으로 끌어올립니다. 이들은 단순히 사용자가 무엇을 검색하는지만 추적하는 것이 아닙니다. 질문의 맥락 (context), 사용자가 시간이 지남에 따라 탐색하는 주제, 사용자가 요청을 표현하는 방식, 후속 질문, 심지어 상호작용의 감정적 어조까지 분석합니다. 이는 단순한 관심사나 브라우징 습관을 훨씬 뛰어넘는 상세한 심리적 프로필을 생성합니다. 이는 사고 패턴, 의사 결정 과정, 감정 상태, 그리고 잠재적으로 건강 문제, 재정 상황, 정치적 성향까지 드러냅니다.

이것이 실제로 어떻게 작동하는지 생각해 보십시오. 전통적인 검색 엔진을 사용할 때는 각 쿼리(query)가 대체로 개별적입니다. 검색 엔진은 당신이 "가장 좋은 러닝화"를 검색했고 나중에 "지역 체육관"을 검색했다는 사실을 알지만, 이들은 별개의 데이터 포인트로 남습니다. 반면 AI 검색 엔진은 대화 문맥(context)을 유지합니다. 당신이 러닝화에 대해 물었고, 그다음에는 훈련 계획을 물었으며, 그다음에는 러너를 위한 영양에 대해 문의했고, 그다음에는 부상 방지에 대해 물었다는 사실을 알고 있습니다. 이러한 진행 과정은 당신의 피트니스 여정, 목표, 그리고 잠재적인 건강 문제에 대한 상세한 그림을 그려냅니다. 이를 업무, 취미, 인간관계, 재정, 건강 등 삶의 모든 영역으로 확장하면, 결과적으로 생성되는 프로필은 믿기 어려울 정도로 사적이고 가치 있는 것이 됩니다.

이러한 데이터 수집은 간과되지 않았습니다. Perplexity는 이미 데이터 관행과 관련하여 개인정보 보호 소송에 직면한 바 있습니다. 혐의의 핵심은 회사가 충분히 공개되지 않은 방식으로 사용자 데이터를 수집하고 사용했다는 점에 집중되어 있습니다. 우려는 단순히 어떤 데이터가 수집되느냐가 아니라, 각 사용자에 대해 점점 더 상세한 프로필을 구축하기 위해 그 데이터가 어떻게 사용되느냐에 있습니다. 이러한 프로필은 타겟 광고(targeted advertising)에 사용되거나, 제3자에게 판매되거나, 잠재적으로 사용자가 받는 정보에 영향을 미칠 수 있습니다. 이러한 관행의 투명성은 기업마다 크게 다르며, 사용자는 자신의 데이터가 어떻게 사용되는지에 대해 통제할 수 있는 권한이 제한적인 경우가 많습니다.

AI 검색의 에너지 비용 또한 경이로운 수준이며, 지속 가능성 관점에서는 아마도 훨씬 더 우려스러운 부분일 것입니다. 전통적인 검색은 웹 페이지를 인덱싱(indexing)하고, 지식 그래프(knowledge graphs)를 구축하며, 알고리즘 순위(algorithmic ranking)에 기반하여 결과를 제공하는 과정이 필요합니다. 이러한 프로세스들은 상당한 에너지를 소비하지만, 규모의 경제 측면에서 상대적으로 효율적입니다. 반면 AI 검색은 단 하나의 쿼리(query)를 처리할 때마다 거대한 언어 모델(language models)을 실행해야 합니다. 각 요청은 전통적인 검색보다 훨씬 더 많은 계산 능력(computational power)을 소비합니다. 추정치에 따르면, 단 한 번의 ChatGPT 스타일 검색은 전통적인 Google 검색보다 최소 10배에서 100배 더 많은 에너지를 사용할 수 있습니다.

이를 하루 수십억 건의 쿼리(query)로 곱하면, 환경에 미치는 영향은 엄청나게 커집니다. 이러한 모델들을 수용하는 데이터 센터(Data center)는 막대한 양의 전력을 필요로 하며, 많은 지역에서 이 전력의 상당 부분은 여전히 화석 연료에서 나옵니다. 또한 연산(computational) 요구 사항은 상당한 열을 발생시키며, 이는 추가적인 에너지와 물을 소비하는 광범위한 냉각 시스템을 필요로 합니다. 데이터 센터 냉각을 위한 물 사용량은 특히 물 부족 문제에 직면한 지역에서 점점 더 커지는 환경적 우려 사항이 되었습니다. AI 검색의 도입이 늘어나고 모델이 더 크고 정교해짐에 따라, 이러한 에너지와 물에 대한 수요는 더욱 증가할 것입니다.

AI 검색의 탄소 발자국(carbon footprint)은 단순히 쿼리 처리 과정에만 국한되지 않습니다. 이러한 거대 언어 모델(Large Language Model, LLM)을 학습시키는 데는 장기간에 걸쳐 엄청난 컴퓨팅 자원이 필요합니다. 단 하나의 거대 언어 모델은 학습 과정 동안 수십 가구의 미국 가정이 일 년 동안 사용하는 것만큼의 에너지를 소비할 수 있습니다. 이 학습 에너지 비용은 수백만 또는 수십억 건의 쿼리에 걸쳐 분할(amortized)되지만, 여전히 상당한 환경적 영향을 나타냅니다. 더욱이, 모델들은 지속적으로 재학습되고 업데이트되는데, 이는 전통적인 검색이 요구하는 수준과는 다른 지속적인 에너지 부담을 생성합니다.

AI 검색의 초개인화(hyper-personalization)가 갖는 윤리적 차원은 진지한 고려를 요합니다. AI 검색 엔진은 사용자의 검색 기록, 추론된 관심사, 인구통계학적 정보를 바탕으로 개별 사용자에게 맞춤화된 응답을 제공합니다. 이러한 개인화는 유익하고 편리하게 들립니다. 결국, 더 관련성 높은 결과를 원하지 않는 사람이 어디 있겠습니까? 하지만 그 함의는 심오합니다. 동일한 질문을 하는 두 사람이 각자의 개인 데이터에 따라 완전히 다른 답변을 받을 수 있습니다. 어떤 사람은 자신의 기존 신념을 강화하는 정보를 볼 수 있는 반면, 다른 사람은 더 균형 잡히거나 도전적인 관점을 볼 수도 있습니다. 이는 '강화된 필터 버블(filter bubbles on steroids)'을 형성합니다.

전통적인 검색 엔진도 이미 어느 정도 결과를 개인화하지만, AI 검색은 이를 한 단계 더 발전시킵니다. 생성된 답변은 인용되는 출처뿐만 아니라 답변 자체의 어조(tone), 관점(perspective), 그리고 강조점(emphasis)까지 맞춤화될 수 있습니다. 이는 공유된 현실(shared reality)에 대한 심각한 의문을 제기합니다. 만약 우리 모두가 동일한 질문에 대해 서로 다른 답변을 받게 된다면, 어떻게 생산적인 공적 담론(public discourse)을 나눌 수 있을까요? 어떻게 기본적인 사실(basic facts)에 합의할 수 있을까요? 우리의 정보 환경이 이토록 극적으로 갈라질 때, 어떻게 집단적 의사결정(collective decisions)을 내릴 수 있을까요?

이는 정보 접근성 측면에서 기존의 불평등을 악화시킵니다. 프리미엄 구독료를 지불할 여력이 있는 사람들은 더 나은 답변을 얻게 되며, 이는 건강, 금융, 교육 및 기타 중요한 분야에서 더 나은 의사결정으로 이어질 수 있습니다. 비용을 지불할 여력이 없는 사람들은 열등한 정보를 받게 되어, 잠재적으로 기회와 결과의 기존 격차를 더욱 벌릴 수 있습니다. 정보 접근의 상업화는 양질의 정보가 공공재(public good)여야 하는지, 아니면 사치재(luxury good)여야 하는지에 대한 근본적인 질문을 던집니다.

인적 비용은 콘텐츠 제작자에게도 확장됩니다. AI 검색 엔진은 여러 출처의 콘텐츠를 합성하지만, 종종 원본 제작자에게 유의미한 트래픽을 유도하지 못합니다. 사용자는 원본 웹사이트를 방문하지 않고도 완전하고 잘 구조화된 답변을 얻게 됩니다. 이는 양질의 저널리즘, 연구, 그리고 콘텐츠 제작을 뒷받침하는 경제 모델을 약화시킵니다. 발행인(Publishers)은 콘텐츠를 만드는 데 상당한 자원을 투자하지만, AI 검색 엔진은 보상을 제공하지 않으면서 해당 콘텐츠의 가치를 효과적으로 전유(appropriate)할 수 있습니다.

이는 왜곡된 인센티브 구조를 생성합니다. 만약 AI 검색 엔진이 가치를 가로채기 때문에 창작자들이 자신의 저작물을 수익화할 수 없다면, 이용 가능한 정보의 질과 양은 감소할 것입니다. 우리는 이미 발행인들이 AI 크롤러(crawler)를 차단하고, AI 스크래퍼(scraper)를 구체적으로 겨냥한 robots.txt 지침을 내리며, 콘텐츠 사용에 대한 보상을 요구하는 모습을 목격하고 있습니다. 일부 출판물은 AI 기업들과 라이선스 계약(licensing deals)을 협상하기도 했습니다. AI 기업과 콘텐츠 창작자 사이의 이러한 긴장은 더욱 심화될 가능성이 높으며, 이를 공정하게 해결하기 위해 규제적 개입(regulatory intervention)이 필요할 수도 있습니다.

AI 검색에는 정확성과 책임성(accountability)의 문제도 존재합니다. AI 검색 엔진은 때때로 잘못된 정보를 사실처럼 제시하거나, 출처를 환각(hallucinate)하거나, 적절한 공개 없이 편향된 관점을 제공합니다. 실수가 발생했을 때, 누구에게 책임이 있을까요? 답변에 의존한 사용자일까요? 답변을 제공한 AI 기업일까요? 아니면 콘텐츠가 잘못 해석되거나 잘못 인용된 출처일까요? 전통적인 검색 엔진은 사용자에게 출처를 안내하고 사용자가 직접 신뢰성을 평가하게 합니다. 반면 AI 검색 엔진은 사용자를 대신하여 신뢰성 판단을 내리며, 합성된 답변(synthesized answers)을 권위 있는 것으로 제시합니다.

이는 책임의 소재를 문제적인 방식으로 전이시킵니다. 사용자는 특히 Google과 같이 신뢰할 수 있는 기업에서 제공하는 경우, 정보를 검증하지 않고 AI가 생성한 답변을 과도하게 신뢰할 수 있습니다. AI 기업은 정보를 사실인 것처럼 제시하면서도 오류에 대한 책임은 부인할 수 있습니다. 콘텐츠 창작자들은 구제 수단도 없이 AI가 생성한 답변에서 자신의 저작물이 잘못 표현되거나 잘못 인용되는 상황을 겪을 수 있습니다. AI 생성 정보에 대한 책임 프레임워크(liability frameworks)는 여전히 진화 중이며 불분명한 상태로 남아 있습니다.

AI 검색에 의존하는 것의 심리적 영향 또한 고려할 가치가 있습니다. AI 검색이 더욱 정교해지고 편리해짐에 따라, 사용자들은 정보에 대해 덜 비판적인 소비자가 될 수 있습니다. AI가 이미 최선의 답변을 합성(synthesized)해 놓았는데 왜 여러 출처를 통해 주장을 검증해야 할까요? AI가 포괄적인 요약(summary)을 제공할 수 있는데 왜 주제를 깊이 있게 연구해야 할까요? 이러한 비판적 사고(critical thinking)와 연구 기술의 퇴화는 장기적인 사회적 결과를 초래할 수 있습니다. 교육 시스템은 이미 오정보(misinformation)와 심독(deep reading)의 감소로 어려움을 겪고 있습니다. 이미 소화된 답변을 제시하는 AI 검색은 이러한 우려스러운 추세를 가속화할 수 있습니다.

AI 시스템으로의 인지적 오프로딩(cognitive offloading)은 우리가 배우고 기억하는 방식에도 영향을 미칠 수 있습니다. 포괄적인 답변을 즉각적으로 얻을 수 있게 되면, 정보를 내면화(internalize)하려는 동기가 줄어들 수 있습니다. 질문과 씨름하고, 여러 출처에서 정보를 찾으며, 이해를 합성하는 과정은 즉각적인 답변을 얻는 방식이 건너뛸 수 있는 인지적 이점(cognitive benefits)을 가지고 있습니다. 편리함이 제거해 버리는 학습의 노력에는 그 자체의 가치가 있을 수 있습니다.

AI 검색을 위한 기술적 인프라(technical infrastructure) 요구 사항 또한 중앙집중화와 통제에 대한 우려를 불러일으킵니다. 최첨단 언어 모델(language models)을 실행하는 데 필요한 막대한 계산 자원(computational resources)은 오직 소수의 대기업만이 대규모로 경쟁할 수 있음을 의미합니다. 이는 정보 접근에 대한 권력을 소수의 기업 손에 집중시킵니다. 어떤 정보를 포함할지, 답변을 어떻게 구성할지, 어떤 출처를 우선시할지에 대한 결정이 분산된 시장 프로세스가 아닌 집중된 결정이 됩니다. 이러한 정보 권력의 집중은 민주주의적 관점과 경쟁적 관점 모두에서 우려스러운 일입니다.

그렇다면 이러한 숨겨진 비용들에 대해 무엇을 할 수 있을까요? 이러한 우려 사항 중 일부를 해결하기 위한 규제 프레임워크 (Regulatory frameworks)가 등장하고 있습니다. 유럽 연합 (EU)의 AI 법 (AI Act)은 AI 시스템의 투명성 (Transparency), 책임성 (Accountability), 그리고 사용자 권리에 대한 요구 사항을 설정합니다. 미국의 다양한 주별 개인정보 보호법은 개인 데이터에 대해 어느 정도의 보호를 제공합니다. 하지만 기술이 급격히 발전하는 동안 규제는 느리게 움직입니다. 기술적 역량과 규제 감독 사이의 격차는 반드시 해결해야 할 리스크를 만들어냅니다.

사용자들은 스스로를 보호하기 위한 조치를 취할 수 있습니다. 비록 더 정교한 기능은 제공하지 못할지라도, 개인정보 보호에 중점을 둔 대안들이 존재합니다. 개인정보 공유를 제한하고 AI 시스템에 어떤 질문을 던지는지 주의를 기울이는 것만으로도 노출을 줄일 수 있습니다. AI가 생성한 답변에 대해 건강한 회의론을 유지하고, 중요한 정보를 여러 출처를 통해 검증하는 것은 여전히 필수적입니다. VPN이나 브라우저 확장 프로그램과 같은 개인정보 보호 도구를 사용하는 것도 추적으로부터 어느 정도의 보호를 제공할 수 있습니다.

콘텐츠 제작자들은 공정한 보상 모델을 옹호하고, 검색 트래픽에 의존하지 않는 직접적인 수익화 전략을 탐색할 수 있습니다. 구독, 멤버십, 직접 판매, 그리고 라이선스 계약은 광고 기반 모델의 대안을 제공합니다. 산업 협회를 통한 집단적 행동은 제작자들이 AI 기업들과의 협상에서 더 큰 영향력을 가질 수 있게 해줍니다. robots.txt나 콘텐츠 보호 기술과 같은 기술적 조치들은 콘텐츠가 사용되는 방식에 대해 어느 정도의 통제력을 제공할 수 있지만, 완벽한 해결책은 아닙니다.