AI와 책임 (AI and Liability)

이 기사는 최근 Google의 AI 검색 요약에 대해 책임을 물은 독일 법원의 판결로 인해 부각된, AI 생성 콘텐츠에 대한 책임(Liability)이라는 중대한 문제를 다룹니다. 이 판결은 사용자 콘텐츠에 대해 책임을 지지 않는 "전달자(carriers)"와 책임을 지는 "발행인(publishers)" 사이의 전통적인 인터넷 출판 구분 방식에 도전합니다. 역사적으로 플랫폼들은 CDA(통신품위법) 제230조를 통해 제3자의 발언에 대한 책임을 면제받으며 이 경계선 사이에서 줄타기를 해왔습니다. 그러나 이 기사는 내용을 재작성하고 편집적 재량(editorial discretion)을 행사하는 AI 개요(AI overviews)가 발행인과 더 유사하게 작동하며, 따라서 이를 배포하는 주체에게 부정확성에 대한 책임을 지워야 한다고 주장합니다.

자신이 한 약속에 대해 책임을 지게 된 Air Canada의 챗봇과 같은 선례들은 AI 에이전트에 대한 "주의 의무(duty of care)" 개념을 강화합니다. 저자는 기업이 인간 직원이나 대리인에 대해 책임을 지는 것과 마찬가지로, AI의 행동과 발언에 대해서도 책임을 져야 한다고 주장합니다. 그렇게 하지 않는다면, 기업들이 비용 효율적인 AI를 활용하면서도 책임은 회피할 수 있는 역효과를 낳는 인센티브를 만들게 될 것입니다.

책임을 적절히 할당하는 것은 구매를 수행하는 개인용 AI 에이전트와 같은 신흥 AI 애플리케이션에 대한 신뢰를 구축하는 데 필수적입니다. Google의 AI 개요가 10%의 오류율을 보이는 상황에서, Ashley MacIsaac가 연루된 것과 같은 잠재적 소송은 기업들이 매우 정확한 AI 시스템에 투자해야 할 필요성을 강조합니다. 이것이 현재의 일부 AI 활용 사례를 제한할 수는 있겠지만, 이 기사는 근본적으로 신뢰할 수 없는 AI 시스템을 수용하는 것은 불필요하며, 기업은 인간과 마찬가지로 AI 에이전트의 발언에 대해 책임을 져야 한다고 결론짓습니다.

전체 기사 읽기