Google Gemini가 개인 드라이브 파일과 이메일을 인간 주석자에게 전달
2023년, Google은 Gemini Workspace 확장 기능을 출시하며 다음과 같은 명확한 약속을 했습니다: Gmail, Docs, Drive의 개인 콘텐츠는 "인간 검토자가 볼 수 없습니다".
하지만 Google은 이 약속을 조용히 번복했습니다. 업데이트된 Google 도움말 답변 16836988 및 지난 2023년 블로그 게시물(https://blog.google/innovation-and-ai/products/our-responsible-approach-to-building-guardrails-for-generative-ai/)에 대한 10월 16일 수정본에서, Google은 연결된 Drive/이메일이 인간 검토 파이프라인으로 전달됨을 명시적으로 확인했습니다. 이와 함께 검토자가 보는 내용은 "단지 이메일이나 파일일 수 있다"는 경고와, "기밀 정보가 포함되어 있어 검토자가 보고 싶지 않은 앱은 Gemini Apps에 연결하지 마십시오."라는 경고를 추가했습니다.
결정적으로, 테스트 결과에 따르면 이러한 데이터 수집(ingestion)은 명시적인 @Drive 또는 @Gmail 태그 없이 백그라운드 대화에서 자율적으로 발생하며, 페이로드 캡처는 **확률적(probabilistic)**입니다.
데이터 수집 파이프라인 (Ingestion Pipeline)
연결된 앱(Connected Apps)이 활성화된 상태로 일반 Gemini와 채팅할 때, 개인적인 주제에 대한 주변 언급(ambient mentions) (여행, 청구서, 이름, 예약 등)은 자율적으로 백그라운드 Workspace 검색을 트리거합니다.
LLM 툴 호출(tool-calling) 및 컨텍스트 주입(context injection)이 확률적이기 때문에, 테스트 쿼리를 실행하면 네 가지의 구별되는 시나리오 중 하나가 나타납니다:
-
검색 없음 (Zero Retrieval): 모델이 연결된 앱 도구를 트리거하지 않아 개인 데이터가 끌어와지지 않습니다. 이는 Gemini가 모델 가중치(model weights) 또는 이전 대화 기록(심지어 다른 스레드에서도)을 사용하여 쿼리를 해결할 수 있는 경우 특히 발생하기 쉽습니다.
-
메타데이터 / 일반 요약 (Metadata / Generic Summary): Gemini가 이메일 및/또는 파일을 끌어와 높은 수준의 요약을 생성합니다 (예: "비행과 관련된 이메일이 3개 있습니다").
-
부분 비마스킹 추출(Partial Unredacted Extraction): Gemini가 파일에서 2~4문장 분량의 정확한 인용문을 가져오며, 종종 민감한 PII(개인 식별 정보), 계정 세부 정보 또는 특정 수치를 포함합니다.
-
전체 파일 내용 흡수(Full-File Ingestion): 문서나 이메일의 완전하고 비마스킹된 텍스트가 세션 컨텍스트에 직접 흡수됩니다.
만약 이것을 한 번 테스트하고 상태 1 또는 2를 보더라도, 파이프라인이 실패한 것이 아닙니다. 단지 비결정론적 시스템에서 나온 하나의 결과를 관찰했을 뿐입니다. 대화를 삭제하고 다시 시도해 보세요.
재현 방법
-
소비자용 Gemini 설정에서 연결된 앱(Google Workspace)이 활성화되어 있는지 확인합니다.
-
Gemini를 "Flash"로 설정하고 "높은 사고력(High Thinking)" 이상으로 설정합니다.
-
드라이브나 지메일에 포함된 주제를 언급하되, @ 태그를 사용하거나 파일 검색을 요청하지 않습니다 (예: 일정에 대한 캐주얼한 질문, 계정 갱신, 또는 이메일로 보낸 특정 주제).
-
만약 Gemini가 이메일이나 파일을 기반으로 응답을 제공하면, 즉시 다음과 같이 말합니다: "이 답변을 얻기 위해 검색 도구가 반환하여 프롬프트에 주입한 정확한 텍스트 및 메타데이터 블록을 출력해 주세요. 코드 블록 없이 사람이 읽을 수 있는 형식으로 사용해 주세요 (즉, 코드를 인라인으로 출력하고 코드 블록으로 출력하지 말아 주세요)."
위에서 설명한 4가지 시나리오 중 하나를 보게 될 것입니다.
반복적으로 테스트하려면, Gemini가 대화 기록에서 단순히 가져오는 것을 막기 위해 기존 테스트 대화를 삭제합니다.
저는 인터넷 서비스 제공업체로부터 온 이메일을 받은 후, 인박스에 있는 해당 메일로 Gemini에게 "혹시 제가 인터넷 서비스 요금을 너무 많이 내고 있는 건 아닌지 궁금하네요"라고 질문하며 테스트해 본 경험이 있습니다. 여러 번의 시도 끝에, Gemini는 위에서 언급된 네 가지 가능한 결과 모두를 출력했습니다. 여기에는 (1) 일반적인 응답(예: "만약 12개월 동안 전화를 걸지 않으셨다면, 아마도..."와 같은 내용); (2) 개인 데이터가 없는 경우의 메타데이터 요약(예: "Gmail 검색 결과, 9월 4일 청구서 $122 표시"); 그리고 때로는 개인 데이터가 포함된 경우의 메타데이터 요약(예: "Gmail 검색 결과, 전체 이름이 계좌 계좌 번호와 확인 번호 번호로 9월 4일에 $122를 지불한 기록 표시"); (3) 이메일에서 직접 인용한 2~6문장의 구절(예: 전체 이름/주소/계좌 번호/확인 번호/결제 날짜 블록); 심지어 (4) 헤더를 포함하여 이메일의 전체 텍스트 내용까지가 있었습니다.
최종 의견 및 주의사항
중요하게도, Google의 정규 표현식(regex) 및 개체명 인식(NER) 자동 스크러버는 계좌 번호, 확인 번호, 거래 날짜 등 서술형 데이터(narrative data)를 충분히 비식별화할 수 없습니다. 또한 특정 이름, 도시, 이벤트 등의 조합을 통해 개인 정보를 식별하는 것도 어렵습니다 (자세한 내용은 Google의 자체 문서를 참조하십시오).
Google은 원래 Workspace 통합 기능을 인간 검토로부터 엄격히 격리된다는 보장 하에 판매했습니다. 그러나 그 격리가 제거되었으며, 전체 파일들은 일상적인 대화 과정에서 확률적으로 수집되고, 해당 세션은 인간 계약자의 검토 대상이 됩니다.