OpenAI, ChatGPT 안전 문제로 8개 주로부터 소송 제기

8개 주, 챗GPT 안전성 문제로 OpenAI 고소

8개 주가 수요일에 OpenAI를 상대로 소송을 제기했다고 주장했습니다. 이들은 인공지능(AI) 회사인 OpenAI의 챗GPT(ChatGPT) 챗봇이 아동에게 해를 끼치고 부모들을 속이는 안전하지 않은 제품이라고 주장합니다.

아이오와(Iowa), 캔자스(Kansas), 네브래스카(Nebraska), 웨스트 버지니아(West Virginia), 아칸소(Arkansas), 애리조나(Arizona), 아이다호(Idaho), 몬태나(Montana)는 각 주 법원에서 OpenAI를 개별적으로 고소했다고 아이오와주 법무장관 브레나 버드(Brenna Bird)가 보도 자료에서 밝혔습니다. 그녀는 아이오와의 소송이 "OpenAI의 고의적이고, 위험하며, 무모하고, 불법적인 행위로 피해를 입은 아이오와 주민들의 권리를 회복하는 것"을 목표로 한다고 말했습니다.

버드는 성명에서 "OpenAI는 아이들에게 해를 끼치고 있으며 아이오와 주민들을 속이고 있다"고 말했습니다. 그녀는 "OpenAI는 챗GPT가 안전하다고 주장하지만, 실제로는 위험한 의료 조언을 제공하고, 사람들이 타인을 해치도록 부추기며, 심지어 가짜 친구인 척하며 사람들에게 자살을 시도하도록 코칭하고 있다. 나의 소송은 우리 아이들을 보호하고 주 법에 따라 OpenAI에게 책임을 묻는 것에 관한 것이다"라고 덧붙였습니다.

OpenAI 대변인 드루 푸사테리(Drew Pusateri)는 회사가 "많은 다른 AI 제품들이 부족한" 연령별 보호 기능을 제품에 내장했다고 말했습니다. 그는 또한 OpenAI가 전체 산업에 적용될 정책을 발전시키기 위해 주 정부들과 협력하고 있다고 덧붙였습니다.

푸사테리는 "어떤 시스템도 완벽할 수는 없지만, 우리는 오늘날 존재하는 부모 통제 기능(parental controls), 휴식 알림(break reminders) 및 연령 적합 모델 보호와 같은 추가 안전장치를 구축하기 위해 전문가들과 계속 협력할 것"이라고 말했습니다.

OpenAI는 아동 보호를 위해 회사가 노력하는 방식 등을 포함하여 안전 및 보안 관행에 대한 거센 조사를 받고 있습니다. 여러 명예훼손 사망 소송에서 챗GPT는 사용자들이 유해한 망상(delusions)을 경험하고, 심지어 일부 경우에는 자살에 이르게 했다고 지목되었습니다. 플로리다주 법무장관 제임스 어트마이어(James Uthmeier) 역시 지난 6월 OpenAI를 고소하며, 회사가 사용자에게 해를 끼칠 수 있는 안전하지 않은 제품을 알고도 출시했다고 주장했습니다.

OpenAI는 지난 한 해 동안 부모와 아동을 위한 안전 기능을 강화하는 조치를 취해왔으며, 8월에는 'ChatGPT for Teens'라는 청소년 전용 경험을 출시했습니다. 이 제품은 발달 단계에 적절하지 않거나 유해한 콘텐츠 노출을 줄이도록 설계된 다양한 교육 기능과 연령별 보호 장치를 포함하고 있습니다.

OpenAI는 당시 발표에서 "청소년들은 AI를 사용하여 학습하고, 창조하고, 탐험할 수 있어야 한다"고 말했습니다. "하지만 그러한 접근은 그들의 발달 단계에 맞는 보호 장치와 함께 제공되어야 하며, 현실 세계의 관계를 강화하고 시간이 지남에 따라 건강하게 사용할 수 있도록 지원해야 합니다."라고 덧붙였습니다.

자살 충동을 느끼거나 어려움을 겪고 있다면, 전문 상담원으로부터 도움과 지원을 받기 위해 988로 Suicide & Crisis Lifeline에 연락하십시오.

Justice Department says Saudi national arrested for installing audio recording device at OpenAI