아무도 채팅 통제(Chat Control)의 이 측면에 대해 이야기하지 않고 있지만, 마땅히 그래야 합니다.

채팅 통제의 스캐닝 의무 사항은 전통적인 메시징에만 적용되는 것이 아닙니다. 이는 모든 "인적 커뮤니케이션 (interpersonal communication)" 서비스에 적용됩니다. 그리고 점점 더, 여기에는 AI 채팅 인터페이스도 포함되고 있습니다.

당신이 ChatGPT, Claude, 또는 그 어떤 AI 어시스턴트(AI assistant)에 입력했던 것들을 생각해 보십시오. 의료 질문, 법률 질문, 비즈니스 전략, 개인적인 고민, 그리고 아직 발표하지 않은 창작물까지 말입니다.

이 모든 것이 잠재적인 조사 범위(scope)에 포함될 수 있습니다.

정의의 문제

채팅 통제 규정은 그 범위를 "인적 커뮤니케이션 (interpersonal communications)"를 중심으로 정의합니다. 그동안 AI 챗봇은 사람이 아닌 기계와 대화하는 것이므로 인적 커뮤니케이션이 아니라는 논리가 있어 왔습니다.

하지만 기술 실무 문서(technical working documents)는 다른 양상을 보여줍니다. 여러 회원국은 다음과 같은 이유를 들어 AI 상호작용을 스캐닝 범위에 포함하도록 추진해 왔습니다:

1. AI 대화는 종종 사람 간의 메시지보다 더 민감한 개인 정보를 포함하는 경우가 많다.
2. 메시지를 스캔하는 것과 동일한 인프라로 AI 프롬프트(prompts)를 스캔할 수 있다.
3. 범죄자들이 불법 콘텐츠를 생성하거나 처리하기 위해 AI를 사용할 수 있다.

법적 근거는 불확실하지만, 그것이 감시 확장을 막은 적이 있었나요?

AI 기업들이 이미 수집하고 있는 것들

채팅 통제에 대해 논하기 전에, AI 기업들이 이미 당신에 대해 알고 있는 것들은 다음과 같습니다:

OpenAI (ChatGPT): 기본적으로 모든 대화를 저장하며, 당신이 거부(opt-out)하지 않는 한 학습에 사용합니다(그리고 이 거부 절차는 의도적으로 혼란스럽게 설계되어 있습니다). 또한 안전 목적으로 "신뢰할 수 있는 파트너"와 대화 데이터를 공유합니다. 이들의 개인정보 보호정책(privacy policy)에는 법 집행 기관과 데이터를 공유할 수 있다고 명시되어 있습니다.

Google (Gemini): OpenAI와 유사하며, 여기에 더해 Google은 이미 당신의 검색 기록, 이메일, 위치 데이터 및 기타 모든 것을 보유하고 있습니다. 당신의 AI 대화는 당신의 Google 프로필에 공급되는 또 다른 데이터 스트림(data stream)일 뿐입니다.

anthropic (claude): 다른 기업들보다 프라이버시 측면에서 더 낫습니다. 기본적으로 사용자의 대화 내용을 학습에 사용하지 않으며, 더 강력한 데이터 삭제 정책을 보유하고 있습니다. 하지만 여전히 대화 내용을 저장하며 법적 명령에는 따를 것입니다.

채팅 통제(Chat Control)가 이를 어떻게 변화시키는가

만약 AI 상호작용이 채팅 통제의 범위에 포함된다면(현재 활발히 논의 중인 사항), 다음과 같은 변화가 일어납니다:

프롬프트(prompt)의 자동 스캔. 당신이 AI에게 던지는 모든 질문은 탐지 데이터베이스(detection database)와의 잠재적 일치 여부를 분석하게 됩니다. 이미지뿐만 아니라 텍스트 분석도 포함됩니다.

교차 참조(cross-referencing). 당신의 AI 대화 내용은 메시징 기록과 교차 참조되어 더욱 완전한 프로필을 구축하는 데 사용될 수 있습니다. 이는 기술적으로 가능하며, 인프라가 이를 지원할 것입니다.

실시간 플래깅(real-time flagging). 특정 프롬프트 패턴이 즉각적인 플래그(flag)를 유발할 수 있습니다. AI에게 특정 화학 주제에 대해 묻습니까? 플래그가 지정됩니다. 특정 법률 전략에 대해 묻습니까? 플래그가 지정됩니다. 프라이버시 도구에 대해 묻습니까? 잠재적으로 플래그가 지정될 수 있습니다.

셀프 호스팅(self-hosted) 대안

유일한 실질적인 보호책은 AI 모델을 로컬(locally)에서 실행하는 것입니다. 이는 훨씬 더 쉬워졌습니다:

llama 3.2 및 mistral은 소비자용 하드웨어에서 실행됩니다. 괜찮은 게이밍 GPU(RTX 3070 이상)라면 대부분의 작업에 충분히 좋은 모델을 실행할 수 있습니다.

ollama는 로컬 AI 설정을 매우 쉽게 만들어 줍니다:

curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.2

open webui는 로컬 모델을 위한 ChatGPT와 유사한 인터페이스를 제공합니다.

로컬 AI가 GPT-4나 Claude만큼 좋냐고요? 아닙니다. 하지만 대부분의 일상적인 작업에 충분히 좋냐고요? 당연합니다. 그리고 아무도 당신의 프롬프트를 스캔하지 않습니다.

실질적인 단계

1. AI 학습 거부(opt out): 당신이 사용하는 모든 플랫폼에서 AI 학습을 거부하세요. 설정을 확인하고 지금 바로 실행하세요.
2. 오래된 대화 삭제: 필요 없는 오래된 대화는 삭제하세요. 대부분의 플랫폼은 일괄 삭제를 허용합니다.
3. 민감한 주제에 클라우드 플랫폼 AI 사용 금지: 민감한 내용이라면 로컬에서 실행하세요.
4. 셀프 호스팅 AI 고려: 법정에서 소리 내어 읽히기를 원치 않는 모든 내용에 대해서는 셀프 호스팅 AI를 고려하세요.

저는 채팅 통제(Chat Control) 시대의 AI 프라이버시에 관한 상세 가이드를 작성했으며, 여기에는 로컬 AI (Local AI) 설정 방법도 포함되어 있습니다: AI 프라이버시와 채팅 통제 (AI Privacy and Chat Control)

여러분의 프롬프트(Prompt)는 여러분의 생각으로 향하는 창입니다. 개인적인 메시지(Private messages)와 동일한 수준의 프라이버시 민감도를 가지고 프롬프트를 다루십시오. 머지않아, 프롬프트 또한 정확히 그와 동일한 방식으로 취급될 수 있기 때문입니다.