독일 판결, Google이 AI Overviews의 오답에 책임 있다고 선언

제대로 이해했다면 이 판결은 마음에 듦. Google은 Search라는 제품을 만들고, 그 제품에 대한 규칙이 정립됐고, 그 제품을 독점해 왔음
이제 Google은 그 제품을 새 제품으로 바꾸면서도 같은 이름으로 부르고 있음. 독점을 유지하고 싶기 때문임
불법으로 판단된 건 이 부분임. Gemini 자체가 불법인 게 아니라, Gemini의 최악 버전을 Search인 척하면서 Search에 정립된 규칙을 깨는 게 불법이라는 얘기로 보임. 다만 법률가는 아님

독점과는 무관함. Google이 검색에서 명예훼손 책임을 피할 수 있었던 건 페이지 제목과 스니펫이 링크된 결과 페이지의 직접 인용이었기 때문임. 반면 AI 개요는 Google이 통제하는 대규모 언어 모델이 문구를 작성함

이 글은 그렇게 말하고 있지 않음. 글이 판결을 잘못 전달한다고 생각한다면 그 부분을 짚어야 함. 판결이 마음에 든다고 해놓고, 판결과 관련 없는 마음에 드는 내용들을 나열하고 있음

논리가 전혀 이해되지 않고, 어떤 법을 어긴다는 건지도 모르겠음. 정확히 어떤 법을 위반한다고 보는 건가?
글이 말하는 내용도 그런 쪽은 아닌 듯함. 이건 미국의 Section 230 같은 쟁점으로 보임. Section 230은 Facebook, Google 같은 플랫폼이 정보를 단순 전달한다는 전제에서 발행자로 취급되지 않게 보호하는 미국 법인데, 독일은 AI 결과를 Google이 작성한 것으로 본다는 얘기임

법원은 AI 생성 콘텐츠에 저자·편집자·발행자가 있으며, 그 주체가 Google이라고 판단함. 또한 Google이 책임질 수 있다고 봄. 놀란 피카츄 밈이 떠오름

판결에는 그런 내용이 없음

좋음. 범용 인공지능의 진짜 표식은 회사가 책임을 받아들이고, 약관 깊숙한 곳에 “오락 목적일 뿐” 같은 문구를 숨기지 않는 때임. 직원에게 책임을 묻는 방식과 같음
자율주행도 마찬가지임. 차가 책임을 받아들이고 사용자가 단순 승객으로 취급되기 전까지는 자율주행차가 아님
다만 독일은 곧 Google AI 결과를 잃게 될 것 같음

자율주행차와 질의응답 시스템을 만드는 회사가 오류에 대해 법적 책임을 져야 한다는 입장은 충분히 합리적이라고 봄
하지만 그 입장을 취한다면, 회사들이 그 나라에서 제품과 서비스를 제공하지 않는 것도 받아들여야 함. AI 시스템은 언젠가 10~20년 뒤에는 소송 비용을 감당할 만큼 충분히 정확해지겠지만, 그 전까지 그런 나라들은 완전히 검증된 시스템이 나오기 전에는 접근하지 못하게 될 것임

독일이 Google AI 결과를 잃는다면, 내 기준으로는 독일에 이득임. AI 결과가 필요하면 그냥 AI를 쓰면 됨

Mercedes-Benz는 제한적인 경우에 그렇게 함. Waymo는 일반적으로 그렇게 하고 있음. 중국에서는 Level 4와 5에서 위험이 제조사로 이전됨. 이게 올바른 방식임

약관 깊숙한 곳에 숨긴 게 아니라, 상자 바로 아래에 이렇게 적혀 있음:

AI can make mistakes, so double-check responses

왜 그게 범용 인공지능을 의미하나? 범위를 제한하면 AI를 더 똑똑하게 만드는 것보다 훨씬 쉽게 책임을 받아들이는 영역에 들어갈 수 있음
자율주행차도 특정 상황에서는 회사가 책임을 지고, 다른 상황에서는 차가 운전을 거부하는 모델을 만들 정도면 충분하지, 특별히 뛰어나야 할 필요는 없음

Google이 어떤 책임을 인정받았는지에 대해 이 글 자체가 잘못된 주장을 하고 있고, 그걸 사실 확인하는 사람이 거의 없다는 점이 아이러니함
위반한 법은 개인과 기업의 평판을 사실과 다른 진술로부터 보호하는 법임. 본질적으로 명예훼손적인 주장이라면 “틀릴 수도 있으니 직접 확인하라”고 덧붙이면서 “X는 Y다”라고 말할 수 없다는 뜻임
이 판결은 꽤 좋음. Google이 앞으로는 이번처럼 사실 단정문을 만들지 않고, “X에 따르면…” 같은 더 적절한 표현과 함께 검증할 수 없다는 직접적인 고지를 붙이길 바람. 더 좋게는 법원 문서를 찾아 실제 법적 판단이 있는지도 확인하고 사용자에게 안내하면 됨

글의 어떤 부분이 네가 쓴 내용과 다른가?

독일은 판례법을 어느 정도 따르나? 이게 선례가 될 수 있다면 중요함. 누구나 이런 AI 개요 응답을 생성할 수 있고, 거의 10번 중 9번은 틀리기 때문임

Google은 여러 가지를 망가뜨리고 있으니, 설령 글이 부정확하더라도 근본 문제는 남아 있음. 이 사악한 독점을 완전히 해체할 때가 됐음
다만 네 말이 맞는지도 확신이 안 듦. 글이 정확히 어떤 허위 주장을 하고 있나?

불평하는 사람은 있겠지만, 결국 유럽은 이런 법률 면에서 여전히 앞서가게 될 것임. 짜증 나고 때로는 혁신 속도를 늦추지만, 미국 기업들은 제한 없이 돈 되는 일은 뭐든 하고 있음

혁신 속도가 늦춰진다기보다, 인간·사회·공동선에 대한 고전적 이해로 돌아가는 게 필수적임

솔직히 이번 사안에서는 유럽의 느린 기술 도입과 상대적으로 적은 투자가 축복임
지금 얻을 건 변동성뿐임. 미국이 경제적·사회적 충격을 겪고 나서 살아남는 것만 받아들이면 됨. 서두를 이유가 없음. 유용한 부분에는 해자가 거의 없음. 개방형 모델이나 소규모 업체와 비교해 최전선 운영의 비용과 위험을 정당화할 만큼 큰 차이가 있는 것도 아님. 결국 이 AI 사업 대부분은 대다수 사용 사례에서 로컬 모델로 정착할 가능성이 큼
미국은 첫 조만장자를 만들 수도 있겠지만, 현실적으로 그건 혁신 때문이 아니라 부패, 착취, 극심한 부의 불평등 때문임. AI 경제가 “예상”대로 펼쳐지지 않으면 회복도 없음. 그 돈은 열과 일회용 하드웨어 쓰레기로 바뀌었을 뿐임. “기술 우위” 때문에 연금과 사회적 결속을 위험에 빠뜨릴 가치가 없음

이런 법은 부유하고 강력한 사람들을 돕고 그 아래 사람들에게 피해를 주기 위해 존재하는 종류임. EU가 미국보다 낫다는 사례는 전혀 아님
아니면 독일에서 부정적 리뷰 호스팅이 사실상 불법인 게 정말 좋은 일이라고 생각하나?

그 외에 어떤 결론이 말이 되겠나? 플랫폼들이 위험하고 망가진 제품을 제공하는 데 쓰이면서도 빠져나가는 데 익숙해지고 있음. 어느 정도 한계는 있어야 함
다음은 AI가 생성한 채집 안내서를 파는 Amazon을 다뤄야 함: https://www.theguardian.com/technology/2023/sep/01/mushroom-...
어릴 때는 서점에서 어떤 채집 책을 사도 최소한의 품질은 있었음. 그게 그렇게 어려운 일인가? 폭리는 이제 처벌받지 않는 건가?

사용자가 직접 판단하게 두지 않고 답을 골라주는 것은 엄청난 권력이며, 법원은 그 권력에 사회의 다른 사람들에게 끼치는 피해를 최소화할 책임이 따른다고 올바르게 본 것임

Google 검색 페이지의 AI 요약은 실제 Gemini 결과와 비교하면 믿기 어려울 정도로 멍청함. Google 검색 AI는 검색 결과를 단순히 바꿔 쓰는 가장 가벼운 모델처럼 보임. 무작위 Reddit 댓글을 가져와 맥락을 제거한 뒤 절대적 사실처럼 제시함

당연히 그들도 알고 있음. 핵심 목적은 사람들의 인식을 다시 쓰는 것임

말이 된다고 봄
Google Search가 잘못된 정보를 담은 제3자 웹사이트를 인용하는 경우라면 Google 책임은 아님. 책임은 제3자에게 넘어감. 이것이 검색엔진으로서 Google이 누리는 특권임
하지만 Google이 검색엔진이 아니라 답변 기계로 동작하면 그 특권은 더 이상 적용되지 않음. 책임을 떠넘길 제3자가 없음

여기서 벌어진 일은 그게 아님

According to the court, the Al mixed up information about other, genuinely sketchy companies with the plaintiffs and drew connections that didn't appear in any of the linked sources.
즉, 허위 주장이 출처 안에 있었다면 보호되는 표현이었을 것이라는 뜻임
“답변 기계”와 “검색엔진” 사이에 특별한 차이가 있는 게 아님. 그 부분은 만들어낸 해석임

상식적인 판결로 보임. AI는 Search가 아님. 대규모 언어 모델은 사용자가 직접 해석해야 하는 검색 결과가 아니라 진술을 만들어내기 때문임. 도서관 카드 목록에서 주제를 찾는 것과, 소프트웨어가 자기 답을 말해주는 것의 차이임
이런 것들이 등장하자마자 자신 있게 거짓말을 할 때가 있었고, 이런 소송은 피할 수 없겠다고 생각했음. 독일이 제대로 판단해서 좋음