AI에게 무엇을 말하고 있나요? 개인 이용 시 알아두어야 할 리스크의 기본【AI 안전 활용 가이드 #1】

연재: AI 안전 활용 가이드 초급편 (총 3회)

#1 AI에게 무엇을 말하고 있나요? 개인 이용 시 알아두어야 할 리스크의 기본 ← 현재 위치

생성형 AI (Generative AI)는 검색 엔진도 전화도 아닌, 지금까지 없었던 도구입니다. 하지만 「편리하니까 사용하고 있다」는 단계에 있는 사람에게는, 뒷단에서 어떤 일이 일어나고 있는지는 거의 보이지 않습니다.

이 연재에서는 AI를 개인적으로 사용할 때의 보안과 프라이버시에 대해, 어려운 용어를 사용하지 않고 3회에 걸쳐 설명합니다. 제1회는 「리스크의 전체상을 파악하는 것」을 목표로 합니다.

AI 서비스에 문장을 보내면, 그 데이터는 인터넷을 통해 서비스 회사의 서버로 전달됩니다. 그곳에서 AI가 처리하여 답변을 돌려줍니다. 여기서 중요한 것이 「학습 데이터로 사용될 가능성」입니다.

서비스에 따라 다릅니다

많은 무료 플랜에서는 사용자가 입력한 내용을 모델 개선에 사용하는 경우가 있습니다. 유료 플랜이나 기업용 API에서는 학습에 사용하지 않는 경우가 많습니다. 이용 약관을 확인하는 것이 기본입니다.

즉, 당신이 입력한 「우리 회사의 지난달 매출이 ◯◯만 엔이었는데...」라는 문장은 조건에 따라 미래 AI의 학습 소재가 될 수 있습니다. 누군가에게 직접 보여지는 것은 아니지만, 사라진다고 단정할 수도 없습니다.

「대기업이 아니니까 상관없다」고 생각하기 쉽지만, 개인 이용에도 고유한 리스크가 있습니다. 크게 3가지로 나누어 생각해 봅시다.

리스크	구체적인 예	심각도
개인정보의 의도치 않은 입력	성명·주소·마이넘버(My Number) 등을 「정리해 줘」라며 붙여넣는 경우	높음
업무 정보 유출 리스크	부업·재택근무 중에 회사의 기밀 문서를 요약하게 하는 경우	중간
AI의 답변을 맹신함	잘못된 정보·오래된 정보·존재하지 않는 인용을 사실로 사용함	낮음~중간

가상의 예로 확인해 봅시다.

【AI 입력 예시】
다음 내용으로 메일을 작성해 줘.
수신: 야마다 타로 (yamada@example.co.jp)
...

⚠️ 이 메일에는 「실명」「이메일 주소」「매출 숫자」「경쟁 정보」가 한꺼번에 포함되어 있습니다. 「메일 문장을 다듬기만 하려는」 의도였더라도, 문맥으로서 정보를 붙여넣으면 리스크가 발생합니다. 회사의 AI 이용 정책을 반드시 확인하세요.

이것은 결코 특수한 사례가 아닙니다. 일상적인 메일 작성 의뢰에서도 이러한 정보가 자연스럽게 포함되어 버립니다.

어려운 일을 하기 전에, 일상적인 습관으로 정착시키고 싶은 것이 3가지 있습니다.

익명화 습관: 「야마다 타로」 → 「A씨」, 「매출 1,200만 엔」 → 「매출 ◯◯만 엔」과 같이 익명화한 후 붙여넣는 습관을 들입시다. AI는 고유한 숫자가 없어도 충분히 일을 해줍니다.
약관 키워드 확인: 「프라이버시 정책 (Privacy Policy)」 안에 사용자 데이터를 어떻게 다루는지 적혀 있습니다. 전부 읽지 않아도 괜찮습니다. 다음 키워드를 페이지 내 검색하는 것만으로도 대략적인 방침을 알 수 있습니다.

교차 검증: AI가 「◯◯라는 연구에 따르면...」이라고 말하더라도, 그대로 복사하지 마세요. 실제로는 존재하지 않는 논문이나 오래된 데이터를 자신만만하게 제시할 때가 있습니다. 중요한 판단 전에는 1차 정보 (Primary Information)를 확인하는 습관을 들입시다.

AI에 보낸 데이터는 서버에 도달합니다. 입력 정보는 익명화하는 습관을 들이고, 출력은 참고 정보로 취급한다 —— 이것만으로도 개인 이용 리스크의 대부분을 커버할 수 있습니다.

다음 회차는 AI로 생성된 사기 메일·가짜 음성·딥페이크 등 「AI 시대의 새로운 사기꾼」과 그 식별 방법을 해설합니다.

다음 기사: #2 AI 시대의 「사칭」 사기 간파하기

Insights