Marcelo Alberto Futerman은 업무에서 인공지능(AI) 비서 도구를 사용할 때 어떤 종류의 정보를 제외하는 것이 좋으며, 회사나 타인의 데이터를 노출하지 않으면서도 어떻게 활용할 수 있는지 검토합니다.
AI 비서 도구는 이미 사무실의 또 다른 도구가 되었습니다. 우리는 이들에게 보고서를 요약해 달라고 요청하거나, 이메일을 개선해 달라고 하거나, 스프레드시트를 정리해 달라고 합니다. 문제는 답변이 더 잘 나오도록 하기 위해 이름, 계좌 번호, 세부 정보가 포함된 문서를 통째로 붙여넣을 때 발생합니다. 이러한 정보는 우리가 모르는 사람에게 절대 보내지 않을 것들입니다.
우리가 작성한 내용에 무슨 일이 생기는가
우리가 비서 도구에 글을 쓸 때, 텍스트는 우리의 컴퓨터를 벗어나 서비스의 서버로 전송되며, 그곳에서 답변이 생성되도록 처리됩니다. 사용된 도구와 계정 유형에 따라 해당 대화 기록은 저장될 수 있고, 품질 관리를 담당하는 사람들에게 읽힐 수 있으며, 모델의 미래 버전을 훈련하는 데 사용될 수도 있습니다.
모든 도구가 같은 방식으로 작동하지 않으며, 그 조건들은 시간이 지남에 따라 바뀝니다. 따라서 유용한 질문은 추상적으로 '이것이 안전한가?'가 아니라, '이 특정 서비스가 내가 보내는 내용으로 무엇을 하는지, 그리고 누가 우리가 사용할 수 있다고 결정했는지?'입니다.
제외하는 것이 좋은 다섯 가지 데이터 유형
- 제3자의 개인 데이터. 고객, 공급업체 또는 동료의 이름 전체와 문서, 주소, 전화번호 또는 이메일 주소. 이러한 정보는 우리가 공유할 소유물이 아닙니다.
- 재무 정보. 계좌 번호나 카드 번호, 급여, 아직 공개되지 않은 재무제표(balance sheets).
- 접근 권한. 비밀번호, 프로그램 키, 인증 코드. '맞는지 검토해 달라'는 이유로도 절대 안 됩니다.
- 회사의 전략적 정보. 계약서, 협상 중인 가격, 출시 계획, 자체 소스코드(source code).
- 개인의 민감한 주제. 성과 평가, 내부 갈등, 가족 문제 또는 누군가 우리에게 비밀로 말했던 모든 것.
AI를 똑같이 사용하면서도 아무것도 노출하지 않는 방법
대부분의 경우, 어시스턴트는 도움을 받기 위해 실제 데이터가 필요하지 않습니다. 문제의 구조를 이해하는 것이 중요합니다.
- 익명화(Anonimizar). "Juan Pérez, DNI…"를 "클라이언트 A"로 대체합니다. 실제 금액을 같은 형태의 예시 숫자로 변경합니다.
- 붙여넣기 전에 요약하기. 계약서 전체를 업로드하는 대신, 의문이 되는 조항을 우리 말로 설명합니다.
- 결과가 아닌 방법을 요청하기. "클라이언트별 평균을 구하려면 어떤 공식을 사용해야 하나요?"는 모든 데이터가 담긴 스프레드시트를 보내는 것과 같은 효과를 냅니다.
- 가상의 예시로 작업하기. 가짜 행 세 개를 만들고, 해결책을 얻은 다음 그것을 실제 데이터에 적용합니다.
설정 검토하기
많은 서비스에서 기록 저장 안 하기나 대화 내용을 학습에 사용하지 않도록 하는 옵션을 제공합니다. 개인 정보 보호 또는 계정의 데이터 메뉴에서 찾아보고 각각이 무엇을 하는지 읽어보는 것이 좋습니다. 기업용 계정은 일반적으로 개인용 계정과 다른 조건을 가지므로, 한 곳에 유효한 것이 다른 곳에도 유효할 것이라고 가정해서는 안 됩니다.
옵션을 비활성화한다고 해서 모든 데이터가 공유하기 적합해지는 것은 아닙니다. 이것은 추가적인 주의 단계이지 허가가 아닙니다.
기업이 해야 할 일
만약 각 개인이 어떤 도구를 사용할지, 그리고 무엇을 업로드할지를 스스로 결정한다면, 아무도 보지 못하는 위험들이 발생합니다. 짧은 내부 정책이 일반적인 금지보다 훨씬 도움이 됩니다. 최소한 다음 사항에 대해 답변해야 합니다:
- 어떤 도구가 승인되었으며 어떤 유형의 계정으로 사용 가능한지.
- 구체적인 예시와 함께 어떤 정보는 업로드할 수 있고, 어떤 정보는 할 수 없는지.
- 궁금할 때 누구에게 문의해야 하는지.
- 누군가 부적절한 것을 공유했을 경우 어떻게 해야 하는지.
'전송' 버튼을 누르기 전 체크리스트
– [ ] 누군가의 이름이나 그를 식별할 수 있는 데이터가 포함되어 있나요?
– [ ] 계좌 번호, 비밀번호 또는 키가 있나요?
– [ ] 회사가 공개하지 않은 정보인가요?
– [ ] 실제 데이터를 예시로 대체할 수 있나요?
– [ ] 이 도구가 이 용도로 승인되었나요?
– [ ] 제가 작성하는 내용에 대해 서비스가 무엇을 하는지 알고 있나요?
만약 답변 중 의문이 생긴다면, 멈추고 요청 내용을 다시 작성하는 것이 좋습니다. 대부분의 경우, 정보가 적을수록 동일한 도움을 얻게 됩니다.
데이터 관리는 인공지능으로 작업을 자동화하기 위한 나의 가이드의 핵심 기둥 중 하나로 언급됩니다.
— Marcelo Futerman