독일 법원 판결, Google의 AI Overviews는 Google의 자체 언어이며 허위 답변에 대한 책임을 져야 한다고 선언

Image description

핵심 요약

• 독일 지방 법원은 Google이 AI로 생성된 검색 개요 (AI-generated search overviews) 내의 허위 주장에 대해 직접적인 책임을 진다고 판결했습니다.
• 이번 사건에서 Google의 AI는 두 출판사를 사기 및 불투명한 비즈니스 관행과 잘못 연결했습니다.
• 법원은 AI 개요를 Google 자체 콘텐츠로 취급했으며, 사용자가 직접 결과의 사실 여부를 확인해야 한다는 Google의 주장을 기각했습니다.

독일 법원은 Google의 AI 검색 개요가 말하는 내용에 대해 Google이 직접적인 책임을 져야 한다고 판결했습니다. 검색 엔진 운영자를 책임으로부터 보호하던 이전의 판례는 AI 개요에는 적용되지 않습니다.

뮌헨 지방 법원(Regional Court of Munich)은 Google이 AI로 생성된 검색 개요를 통해 뮌헨에 본사를 둔 두 출판사에 대해 허위 주장을 유포하는 것을 금지하는 임시 금지 명령을 내렸습니다 (사건 번호 26 O 869/26). 법원은 "AI 개요 (AI overview)"가 단순한 검색 결과 목록이 아니라 Google 자체의 콘텐츠이기 때문에 Google을 직접적인 침해자로 분류했습니다.

Google의 AI 개요는 특정 검색 쿼리에 대해 두 출판사를 사기, 구독 함정 및 불투명한 비즈니스 관행과 허위로 연결했습니다. 법원에 따르면, AI는 다른 실제 의심스러운 기업들에 대한 정보를 원고들과 혼동했으며, 연결된 소스 중 어디에도 나타나지 않는 연결 고리를 만들어냈습니다. 해당 출판사들은 Google에 중지 요구서 (cease-and-desist letter)를 보냈으나, Google은 적절하게 대응하지 않았습니다.

AI 개요는 검색 결과가 아니다

법원은 Google의 AI 개요가 전통적인 검색 결과와는 전혀 다르게 작동한다고 주장합니다. 판결문에 따르면 AI는 "자체적인 언어와 자체적인 구조에 따라" 결과를 재작성하고 판단합니다. 예를 들어 이번 사건에서 AI는 "네, [회사]는 의심스러운 비즈니스 관행으로 알려져 있습니다"와 같이 확신에 찬 주장으로 시작하여, 요약, 주장된 사기에 대한 위험 신호(red flags), 그리고 사용자를 위한 팁 등으로 구성된 자체적인 구조를 구축했습니다.

법원은 또한 AI 개요(AI overview)가 "검색 결과에서는 나타나지 않는" 주장들을 했다는 점을 확인했습니다. 연결된 소스 중 그 어느 것도 원고와 AI가 언급한 수상한 기업들 사이의 연관성을 도출하지 않았습니다. 법원은 이를 "피고(Google) 자신의 진술"이라고 불렀습니다.

Google이 AI를 구축했고, Google이 이를 사용자에게 제공했으므로, Google은 자신이 생성한 결과물에 대한 소유권을 가집니다. 그 이유는 "Google만이 AI의 제공 방식과 AI가 작동하는 알고리즘에 대해 독점적인 영향력을 행사하기 때문"입니다.

검색 엔진 책임 규칙은 AI "검색"에 적용되지 않는다

법원은 또한 전통적인 검색 엔진과 자동 완성(autocomplete) 기능에 제한적인 책임을 부여했던 독일 연방 대법원(BGH)의 기존 판결들을 검토했습니다. BGH는 검색 엔진 운영자가 단순히 제3자의 콘텐츠를 찾을 수 있게 할 뿐이므로 간접 침해자로서만 책임을 진다고 주장해 왔습니다. 결과를 검토해야 하는 선제적 의무는 검색 엔진의 작동 방식을 위협할 수 있다는 논리였습니다.

뮌헨 법원은 이러한 논리가 AI 개요(AI overviews)에는 적용되지 않는다고 판단했습니다. 일반적인 검색 엔진은 단순히 외부 웹사이트를 가리킬 뿐입니다. 하지만 AI 개요는 다양한 제3자 사이트의 콘텐츠를 평가하고 결합함으로써 "독립적이고, 새롭고, 실질적인 진술"을 생성합니다. 법원은 "적어도 기초가 되는 제3자 웹사이트와 이를 바탕으로 한 자체 진술을 비교함으로써" 이러한 진술들을 검토할 수 있는 주체는 오직 Google뿐이라고 밝혔습니다.

또한 법원은 AI 개요가 인터넷 사용을 위해 "결코 절대적으로 필요한 것은 아니다"라고 언급했습니다. 전통적인 검색 결과가 이미 사용자의 정보 분류를 돕고 있으며, AI 개요는 단지 추가적인 기능일 뿐이라는 점을 명시했습니다.

Google의 "사용자가 직접 확인할 수 있다"는 방어 논리는 설득력을 잃다

심리 과정에서 Google은 사용자가 AI 요약의 정확성을 확인하기 위해 연결된 출처를 직접 확인할 수 있다고 주장했습니다. Google은 사용자들이 일반적으로 "AI로 생성된 정보를 맹목적으로 신뢰해서는 안 된다"는 점을 알고 있다고 주장했습니다. Google이 AI Overviews (AI 개요)를 제공하는 규모를 고려할 때 이는 놀라운 발언입니다. 또한, 출처와 생성된 콘텐츠 사이의 연결이 항상 존재하는 것은 아니기 때문에 이 주장은 완전히 사실도 아닙니다.

법원은 이를 거부했습니다. 추가적인 조사를 통해 진술을 반박할 가능성이 있다고 해서 "해당 진술에 대한 책임이 정기적으로 면제되는 것은" 아닙니다. AI Overviews는 "그 자체로 이해 가능"했으며, "독립적으로 이해할 수 있는 내용을 담은 완결된 진술로서, 다른 가능한 해석이나 심지어 신뢰할 수 없는 콘텐츠에 대한 참조를 포함하지 않았습니다." 연구에 따르면 사용자들은 AI Overviews의 출처를 거의 클릭하지 않으며, 이는 법원의 논리를 뒷받침합니다.

법원은 언론법과의 유사성을 이끌어냈습니다. 언론법에서는 독자가 전체 기사를 읽지 않더라도, 그 자체로 이해 가능한 티저(teaser)에 대해 발행인이 책임을 집니다. 법원은 만약 AI Overviews가 "일반적으로 신뢰할 수 없는 것으로 인식된다면" Google 자신의 주장 또한 해당 기능의 이점을 "상당히 감소시킬 것"이라고 지적했습니다.

법원은 또한 보호의 공백(protection gap)을 지적했습니다. 만약 Google이 명백한 위반에 대해서만 책임을 진다면, AI가 허위 주장을 할 때 피해자들은 실질적인 법적 구제 수단을 가질 수 없게 됩니다. 웹사이트가 출처로 사용된 제3자들은 문제가 된 진술을 직접 한 것이 아닙니다. 따라서 피해자들은 출처를 상대로 소송을 제기할 수 없으며, 기존 규칙 하에서는 Google을 상대로도 효과적으로 소송을 제기할 수 없었습니다.

결과적으로, Google은 디지털 서비스법 (Digital Services Act)에 따른 호스트 제공자 (host provider) 보호를 원용할 수 없었으며, 검색 엔진을 위한 표준 통지 및 삭제 (notice-and-take-down) 절차에 의존할 수도 없었습니다.

AI 생성 의견은 표현의 자유 보호를 덜 받는다

Google에게 상황이 충분히 나쁘지 않았던 것처럼, 법원은 AI 생성 콘텐츠에 대한 표현의 자유 (free speech) 보호에 대해서도 제동을 걸었습니다. 법원은 AI의 의견이 "표현하는 사람의 습득된 신념의 표현이 아니라, 알고리즘의 결과물"이라고 명시했습니다.

AI 기반의 조사 기능을 제공하는 것은 "무엇보다도 Google의 비즈니스 활동의 표현"이며, "기껏해야 자신의 의견과 신념을 자유롭게 표현할 수 있는 이익에 대한 부차적인 표현"에 불과하다고 보았습니다.

원고들의 프라이버시 권리와 Google의 이익을 비교 형량할 때, Google은 뒤로 물러나야 했습니다. 특히 문제가 된 진술들이 사실이 아닌 것에 기반했기 때문입니다. 해당 AI는 선서 진술서에 따르면 원고들과 전혀 관련이 없는 기업들을 원고들과 연결 지었습니다.

Google이 법적 비용의 80%를 부담

법원은 대부분의 항목에서 원고들의 손을 들어주었습니다. 사기, 의심스러운 기업과의 연관성, 구독 함정, 발생하지 않은 전화, 그리고 가용성 부족에 관한 주장들을 금지했습니다. 단 두 건의 사소한 요청만이 거부되었습니다.

특정 텍스트들이 더 이상 표시되지 않더라도 반복적인 위반의 위험은 남아 있었습니다. Google은 위약금 조항이 포함된 중지 명령 (cease-and-desist) 선언을 하지 않았으며, 알고리즘이 동일한 진술을 다시 생성하는 것을 막을 수 있는 장치가 없었습니다. Google은 법적 비용의 80%를 부담하며, 원고들은 각각 10%씩을 부담합니다.

법원에 따르면 이번 판결은 국제적인 영향력을 미칠 수도 있습니다.

91%의 정확도조차 수백만 개의 오답을 의미한다

뮌헨 법원의 판결은 이 단일 사건을 훨씬 뛰어넘습니다. AI 스타트업 Oumi가 New York Times를 위해 수행한 분석에 따르면, 현재의 Gemini 3 모델을 사용하는 Google의 AI Overviews는 91%의 확률로 정확하게 답변했습니다.

대부분의 사람들이 일상적으로 사용하기에는 충분히 견고한 수준입니다. 하지만 Google의 규모를 고려할 때, 이는 여전히 매시간 수백만 개의 잘못된 답변이 생성됨을 의미합니다. 만약 그러한 잘못된 콘텐츠가 기업이나 개인을 명예훼손할 정도로 충분히 발생한다면, 이는 Google뿐만 아니라 ChatGPT, Claude 또는 Perplexity와 같은 유사한 서비스를 제공하는 다른 업체들에게도 심각한 법적 문제가 될 수 있습니다.

Oumi의 분석에 따르면, Gemini 3의 정확한 답변 중 56%는 Google이 연결한 출처(sources)에 의해 뒷받침될 수 없었습니다. 즉, AI가 사용자가 그 출처를 추적할 수 없는 답변을 제공하고 있다는 것입니다.

뮌헨 법원은 바로 이 문제를 다루었습니다. AI가 연결된 어떤 출처에도 나타나지 않는 자체적인 주장을 펼치고 있으며, 운영자는 그에 대해 책임을 져야 한다는 것입니다. 이 논리가 항소심에서도 유지될지는 지켜봐야 하며, Google은 이번 판결에 대해 언급하지 않았습니다. 하지만 만약 이 판결이 국제적으로 힘을 얻게 된다면, 그 여파는 Google뿐만 아니라 웹의 콘텐츠를 의역(paraphrase)하는 모든 AI 제공업체에 미칠 수 있습니다.

과장 없는 AI 뉴스 – 사람이 직접 큐레이션함