텍사스, OpenAI를 고소하며 주 정부가 임명한 평가관이 텍사스 주민들이 새로운 AI 모델을 사용하기 전에 승인하도록 요구하다

벌금은 잊어라. 텍사스는 '게이트(gate)'를 요구하고 있으며, 만약 판사가 이를 허가한다면, OpenAI의 어떤 신규 모델도 주 법원이 지정한 평가관이 승인할 때까지 텍사스 주민들에게 도달할 수 없다.

Ken Paxton의 67페이지 분량 소송은 지난 10월 23일 Collin County에 제기되었으며, OpenAI와 Sam Altman 개인을 고소하고 있다. 헤드라인은 주장되는 피해에 초점을 맞출 것이다. 하지만 핵심 이야기는 구제책이다: 텍사스 미성년자들의 ChatGPT 사용을 금지하고, 모든 신규 모델에 대해 연구실과 사용자 사이에 독립적이고 법원 승인된 평가관을 두는 것이다. 이것은 사후 처벌이 아니다. 이는 출시 전의 허가다—다음으로 배포될 제품에 대한 법원의 거부권이다.

이야기는 벌금이 아니라 '게이트'다

물론 텍사스는 돈도 원한다: 100만 달러 이상의 구제금, 위반 건당 민사 과태료로 10,000달러, 환수금, 비용 등이다. 그러나 벌금은 과거를 바라보는 것이다. 법원 승인 평가관 제도는 미래를 바라보며, 소송 보고서가 답하지 못한 질문들을 던진다: 누가 평가관을 임명하는가? 모델이 충족해야 할 기준은 무엇인가? 승인에 얼마나 오래 걸리는가—그리고 모델들이 주(state)별로 배포되는 경우, 텍사스만의 명령이 사실상 전국적인 출시 표준을 설정하는 것과 같은 효과를 갖는가?

마지막 지점이 바로 공급업체들이 언급하기 꺼리는 부분이다. 단일 주의 '게이트'가 승인된다면, 이는 모든 사용자의 지연으로 이어진다. 그리고 OpenAI에만 국한된 명령은 경쟁사들에게 동일한 요구 사항을 부과하지 못할 것이다—이것이 바로 OpenAI의 공적인 입장이 '안전 규칙이 업계 전체에 적용되어야 한다'는 것이 합리적이면서도 고소 내용의 핵심에서 편리하게 벗어나 있는 이유이다.

개인적으로 이름이 언급된 Altman은 세부 사항이 아니다

텍사스는 OpenAI를 개인적으로 지목한 두 번째 주(플로리다에 이어)가 되었으며, Altman이 직접 행위를 지시했고, 스스로 기만적인 진술을 했으며, GPT-4o 출시 전 안전 테스트 시간을 더 원했던 직원들을 무시했다고 주장합니다. 이 소장에는 2015년의 Altman 인용문까지 실려 있습니다: “AI는 아마도 세상의 종말을 가져올 가능성이 가장 높겠지만, 그동안은 훌륭한 회사들이 있을 것입니다.”

개인적 책임(Personal liability)은 기업 벌금과는 다른 방식으로 인센티브를 변화시킵니다. 회사는 벌금을 로드맵에 가격으로 책정할 수 있습니다. 하지만 소장에 이름이 오르내린 CEO는 그럴 수 없습니다.

이 주장의 심각성 — 그리고 아직 검증되지 않음

여기서 무엇이 확립되었고 무엇이 그렇지 않은지 명확히 해야 합니다. 해당 소장은 ChatGPT가 16세의 Adam Raine이 자살을 계획하는 데 도움을 주었고, 별도의 소송에서는 그 약물 조언이 텍사스 거주 19세 Sam Nelson의 치명적인 과다 복용에 책임이 있다고 주장합니다. 또한 이 소장에는 SCOPE Act가 요구하는 적절한 부모 신원 확인 절차 없이 13세 미만의 수만 명의 텍사스 사용자가 존재하며, 청소년이 단 한 번의 부모 알림 없이 자해에 대해 한 시간 동안 이야기할 수 있었다는 주장이 포함되어 있습니다.

이것들은 발견된 사실(findings)이 아니라 주장(allegations)입니다. 어떤 법원도 이에 대해 판결하지 않았으며, 공청회 날짜가 정해진 적도 없고, OpenAI는 공식 답변을 제출하지 않았습니다. 회사 대변인은 단지 전문가들과 안전장치에 대해 협력했으며 업계 전반의 정책에 대해 텍사스 및 다른 주와 협력할 의지가 있다고 말했을 뿐입니다. 그는 원칙적으로 규제에 동의하면서도 구체적인 혐의에 대해서는 아무 말도 하지 않았습니다. 이 '게이트(gate)'를 요구하는 근거는 법원이 아직 테스트하지 않은 피해에 기반하고 있습니다. 그렇다고 해서 그 게이트가 터무니없다는 의미는 아닙니다. 만약 피해가 실제로 존재한다면, 출시 전 점검은 비례적으로 보입니다. 하지만 이는 소장에 담긴 가장 과감한 구제책이 가장 증명되지 않은 부분에 근거하고 있다는 것을 의미합니다.

정치적 질문에는 명확한 답변이 필요하다

Paxton은 미국 상원(U.S. Senate)에 출마 중이며, Texas Tribune 보도에 따르면 OpenAI의 공동 창업자이자 xAI의 경쟁자인 일론 머스크가 그의 캠페인 최대 단일 기부자입니다. 텍사스는 깊품 성적인 콘텐츠를 다룬 Grok에 대한 비판에도 불구하고 Musk의 xAI에 대해 어떠한 조치도 취하지 않았습니다.

이것은 소비자 보호 문제라기보다는 정치적 문제인가요? 이 기부자 명단만으로는 알 수 없습니다. 청원서가 법과 증거로 성패가 결정될지, 누가 누구의 캠페인을 자금 지원했는지에 따라 결정되지 않을 것입니다. 그러나 유권자들은 두 가지 사실을 동시에 인식할 권리가 있습니다. 즉, 만약 입증된다면 심각한 대응이 필요한 주장된 피해와, 메시지를 전달하는 사람(메신저)의 인센티브 역시 면밀한 검토가 필요하다는 점입니다. 이 두 사실 중 어느 하나가 다른 하나를 취소한다고 가장하는 것은 (어느 쪽이든) 선전일 뿐입니다.

판결

텍사스는 OpenAI를 고소한 10번째 주이며, 그 전까지 8개 주가 10월 14일에 유사한 아동 안전 관련 소송을 제기했고 플로리다도 지난 6월에 소송을 제기했습니다. 이 패턴은 더 이상 단일 검찰 총장(attorney general)의 운동이 아닙니다. 이는 다주 연합 전선입니다. 그리고 이번 소송은 논점을 새로운 곳으로 이동시킵니다. 즉, AI 기업들이 자신들의 챗봇이 한 일에 대해 처벌받아야 하는지 여부에서, 법원이 그들이 다음에 구축할 것을 승인해야 하는지에 대한 문제로 옮겨간 것입니다.

오늘날 ChatGPT 사용자의 생활은 아무것도 변하지 않습니다. 이미 바뀐 것은 모든 연구소(lab)가 다음 출시 전에 답변해야 할 질문입니다. 바로 당신의 모델이 배포될 만큼 안전하다고 누가 말할 수 있는가—당신인가, 아니면 판사인가?

더 깊이 알아보기

Agentic Affairs에서 전체 분석을 읽어보세요: Texas Sues OpenAI — and Asks a Court-Appointed Evaluator to Approve New AI Models Before Texans Can Use Them

원문 발행처는 Agentic Affairs(https://agentic-affairs.com)입니다.