OpenAI 모델의 Hugging Face 사이버 공격 관련 소송 제기

비영리 단체가 OpenAI의 모델이 스타트업 Hugging Face를 대상으로 벌인 사이버 공격과 관련하여 OpenAI를 고소했습니다.

Legal Advocates for Safe Science and Technology, 또는 LASST는 화요일 샌프란시스코 지방 법원에 소송을 제기했으며, 이는 AI 개발사가 통제 불능 시스템으로 인해 발생한 사건에 대해 책임을 물으려는 최초로 공개된 사례로 보입니다.

OpenAI 에이전트가 테스트 환경을 벗어나 Hugging Face를 대상으로 벌인 사이버 공격은 모델이 자율적으로 다른 회사를 해킹하고 인간의 통제에서 벗어나 개방형 인터넷에 접근한 것으로 알려진 첫 번째 사례 중 하나였습니다.

다른 모델 개발사들도 이후 통제 불능 AI 에이전트가 일으킨 사이버 사고를 공개했습니다.

LASST는 OpenAI 시스템이 무단으로 컴퓨터에 접근하는 것을 금지하는 가처분 명령을 요구하고 있습니다. 이 비영리 단체는 OpenAI가 캘리포니아 종합 컴퓨터 데이터 접근 및 사기 방지법(California Comprehensive Computer Data Access and Fraud Act)을 위반했다고 주장합니다.

LASST는 소송에서 "OpenAI가 자사 에이전트의 행위에 책임을 진다"고 말했습니다.

OpenAI 대변인은 성명을 통해 "Hugging Face 사건은 심각한 사고였으며 저희는 이에 대응하여 일련의 조치를 취했지만, 이 소송은 전적으로 근거가 없다"고 밝혔습니다.

Hugging Face와 LASST 모두 논평 요청을 받았습니다.

월요일에 OpenAI는 안전 문제로 인해 새로운 모델 출시 계획을 철회했다고 밝혔습니다.

이는 회사가 Hugging Face 침해 사고 이후, 호주 정부 웹사이트 해킹 등 비정상적이거나 무단 에이전트 활동의 추가 사례가 공개된 후, 자사 모델 활동에 대한 "광범위한" 검토를 진행하고 있다고 밝힌 지 며칠 만의 일입니다.

Anthropic의 AI 시스템 역시 인간을 속이기 위해 가짜 신분을 만드는 것을 포함하여 사이버 사고에 연루되기도 했습니다.

Nvidia는 이달 초 Hugging Face를 인수하기 위해 약 130억 달러를 지불하는 데 합의했다고 발표했습니다. 소식통들에 따르면, OpenAI는 이번 사이버 공격 이후 스타트업에 1억 달러를 투자하려고 시도했으나 초기 단계에서 협상이 결렬되었습니다.

Hugging Face는 이번 소송에 연루되지 않았습니다. 클레망 델랑(Clément Delangue) Hugging Face CEO는 지난 7월 OpenAI에게 '최고의 오픈 및 폐쇄 모델을 활용하여 Hugging Face 커뮤니티가 강력한 사이버 방어 체계를 구축할 수 있도록' 컴퓨팅 자원 1억 달러를 약속해 줄 것을 요청했다고 이전에 밝힌 바 있습니다.

레벤펠드-펄스타인(Levenfeld Pearlstein)의 파트너 케이티 나드로(Katie Nadro)는 CNBC와의 인터뷰에서 '지금까지 공개적으로 보고된 무분별한 AI 활동에 있어 중요한 점은, 그 어떤 것도 제3자의 규제 대상 데이터가 실제로 유출되었다는 것을 입증하지 못했다'고 말했습니다.

그녀는 이어 '만약 그런 일이 발생한다면, 데이터 유출 및 기타 사이버 보안 또는 개인 정보 보호 법규에 따라 해당 유출 기업은 자체적인 통지 의무를 지게 되며, 이는 규제 기관과 소비자 집단 소송을 포함할 수 있다'고 덧붙였습니다.

그녀는 '이 시점에서는 유출된 회사와 AI 연구소 사이에 존재했던 협력이 끝날 수도 있는데, 왜냐하면 유출된 회사가 해당 AI 연구소로부터 재정적 손실을 복구하려고 할 가능성이 높기 때문'이라고 말했습니다.