Meta, 전사적 민감 정보 유출 사고 이후 직원 키스트로크(Keystrokes)를 추적하던 의무 AI 교육 프로그램 중단 — 직원들은 데이터

6월 22일 Business Insider 보고서에 따르면, Meta는 전사적으로 민감한 직원 정보가 유출되는 내부 데이터 유출 사고가 발생한 이후 내부 AI 교육 프로그램을 중단했습니다. 지난 4월 도입된 이 프로그램은 데이터를 수집하여 Meta가 실제 직원의 워크플로(Workflows)를 바탕으로 AI 시스템 (AI systems)을 학습시키는 것을 돕기 위해 설계되었으나, 현재 개인정보 보호 및 데이터 보안 문제로 인해 내부적인 반발을 불러일으키고 있습니다.

Business Insider가 입수한 스크린샷에 따르면, 해당 프로그램을 통해 수집된 데이터가 의도했던 것보다 Meta 내부에서 더 광범위하게 접근 가능했던 것으로 나타났습니다. 유출된 정보에는 직원의 개인적인 대화, 성과 관련 데이터, 전사(Transcriptions), 그리고 활동 기록이 포함된 것으로 알려졌습니다. Meta는 이 사건을 내부 규모 0에서 5 사이의 기준 중 SEV 2(SEV 0이 가장 심각함)로 분류했습니다.

Meta 대변인은 회사가 사건을 조사하는 동안 프로그램을 일시 중단했음을 확인했습니다. 대변인은 Business Insider에 "우리는 개인정보 보호 장치를 갖추어 이 프로그램을 신중하게 설계했으며, 현재로서는 Meta 직원이 데이터를 부적절하게 접근했다는 징후는 없으나, 조사를 진행하는 동안 프로그램을 중단합니다"라고 밝혔습니다. 이번 사건은 외부 해킹이 아니라 내부의 데이터 관리 부실로 보입니다.

Meta는 AI 모델 개선에 활용하기 위해 직원의 행동을 모니터링하고자 '모델 역량 이니셔티브 (Model Capability Initiative)'라고 불리는 프로그램을 도입했습니다. 보고에 따르면 회사가 대부분의 직원에게 의무화한 이 프로그램은 키스트로크 (Keystrokes), 마우스 움직임, 대화, 전사(Transcripts), 그리고 성과 관련 정보를 포함한 직원의 업무 활동 데이터를 수집했습니다.

보도에 따르면 직원들은 AI 학습을 위해 자신들의 키스트로크(Keystrokes)와 마우스 움직임이 기록된다는 생각에 불편함을 느꼈습니다. 이제 그들은 해당 데이터가 제대로 보호되지 않았을 수 있으며, 의도된 시청자에게만 제한된 것이 아니라 회사 전반에 걸쳐 널리 접근 가능했다는 사실을 알게 되었습니다.

Business Insider가 검토한 스크린샷에 따르면, 직원들은 처음부터 데이터를 봉쇄(lock down)하지 못한 실패를 비판하고 있는 것으로 알려졌습니다. 해당 보고서에 따르면 한 직원은 내부 그룹에 "나는 격분했다"라고 적었습니다. 또 다른 직원은 악의적인 접근의 증거는 없었지만, 약속된 제한 조치가 없었다는 점이 "매우 좌절스럽다"라고 말했습니다.

이번 사건은 Meta 직원들에게 있어 좌절스러운 기간 중 가장 최근에 발생한 일입니다. 이 회사는 더 강력한 AI 시스템을 위한 AI 인프라 (AI infrastructure) 자금을 마련하기 위한 부분적 조치로 수천 개의 일자리를 감축했습니다. 이는 Meta와 다른 기업들이 노동자를 대체하기 위해 배치하고 있는 것과 동일한 범주의 시스템입니다. 이러한 모델을 구축하려면 방대한 양의 학습 데이터가 필요하며, Meta는 이를 공급하기 위해 자사 직원들에게 의존했는데, 이는 대부분의 직원이 반대했던 조치였다고 알려졌습니다. 이제 이 직원들은 자신들이 강제로 제공해야 했던 데이터가 적절히 보안 유지되지 않아 회사 내 많은 이들에게 노출되었다는 사실을 알게 되었습니다.