근로자 3분의 2가 금지된 AI 앱을 몰래 사용 중 — 그리고 당신의 데이터를 ChatGPT에 입력하고 있다

AI가 우리의 지능을 낮출 수 있다는 점이 증명될 수도 있지만 (1), 그렇다고 해서 대다수의 사람들이 사무직 업무에서 ChatGPT 및 유사한 애플리케이션을 사용하는 것을 막지는 못하고 있습니다. 또한 고용주의 정책도 마찬가지인 것으로 보입니다.

AI 운영 플랫폼인 PagerDuty의 새로운 연구 (2)에 따르면, 생각보다 훨씬 더 많은 직원이 일상적인 업무를 완료하기 위해 거대언어모델 (Large Language Models, LLM) 및 유사한 도구에 의존하고 있는 것으로 나타났습니다. 그리고 대부분은 그렇게 해서는 안 된다는 것을 알고 있거나, 혹은 개인 정보를 다루고 있을 때 이러한 도구를 사용하고 있습니다.

이 기업은 미국, 영국, 호주 및 일본에서 최소 5억 달러 이상의 수익을 창출하거나 관리하는 비기술 기업 및 비영리 단체의 1,200명 이상의 사무직 전문가를 대상으로 설문 조사를 실시했습니다.

연구 결과, AI 사용에 있어 매우 높은 수준의 과잉 확신이 발견되었습니다. 응답자의 72%는 해당 기술을 바탕으로 직장 내 정책을 만드는 관리자들보다 자신이 AI 및 자신의 역할에 대한 잠재적 활용 방안에 대해 더 많이 알고 있다고 주장했습니다.

게다가 업무에 AI를 사용하는 근로자 중 66%는 그러한 프로그램을 전면 금지하는 규칙이 있음에도 불구하고 알고도 사용하고 있었습니다. (이는 약 절반인 48%가 그 결과로 공식적인 불이익을 받았음을 인정했음에도 불구하고 나타난 결과입니다.) 연구에 따르면 이러한 금지된 사용은 직원이 1,500명 이상인 대기업에서 더 흔하게 나타나는 경향이 있습니다. 심지어 더 상당한 수치인 72%가 특정 플랫폼을 사용함으로써 고용주의 의사에 반하고 있다고 밝혔습니다.

소비자 개인정보가 침해될 수 있는 지점

설문에 참여한 전체 인원의 거의 절반(45%)은 "업무 관련 조언을 얻거나 의사 결정을 내리는 데 도움을 받기 위해" AI를 활용하여 대신 생각하게 한다고 답했습니다. 또한 거의 비슷한 수치인 43%는 "이메일이나 기타 업무 관련 서신을 회사의 내부 시스템의 일부가 아닌 ChatGPT, Claude 또는 Gemini와 같은 공개 AI 도구에 입력한다"고 인정했습니다.

이는 잠재적으로 민감하거나 개인적인 고객 정보, 기밀 금융 데이터 및/또는 회사 문서와 영업 비밀 (trade secrets)을 AI 프로그램에 입력하는 행위를 포함하며, 이에 국한되지 않습니다.

그리고 이러한 플랫폼들은 사람들이 생각하는 것처럼 비공개(private) 상태가 아니기 때문에, 이 정보가 안전하게 유지된다는 보장이 없습니다.

예를 들어, OpenAI는 ChatGPT 모델을 지속적으로 학습시키고 개선하여 향후 사용자들에게 어떻게 응답할지를 결정하기 위해 대화 데이터를 사용할 수 있으며, 실제로 사용하고 있습니다. 이는 사용자가 설정에서 옵트아웃 (opt-out)을 선택하거나 다른 버전의 도구 (ChatGPT Enterprise 또는 ChatGPT Business)를 사용하지 않는 한 표준 기본 모드 (standard default mode)입니다.

OpenAI 웹사이트에 명시된 바와 같이 (3), "우리는 사용자의 요구와 선호도를 더 잘 이해하는 데 도움을 주기 위해... 귀하와 당사 간의 상호작용에서 발생하는 특정 데이터를 보유합니다."