정치 스팸봇과의 첫 만남

이번 주에 저는 정치 스팸봇과 첫 만남을 가졌습니다. Emma라는 이름의 예의 바른 로봇이 저에게 이스라엘에 대해 이야기하고 싶다며 문자를 보냈습니다.

그녀가 누구인지 물었을 때, 그녀는 처음에는 "Friends for Peace"라는 단체 소속이라고 말했지만, 그녀가 속한 단체의 웹사이트는 Allyvia라는 조직의 것이었습니다.

스팸봇의 헛소리 허용 범위 테스트

이 시점에서 저는 약간의 재미를 보기로 했습니다. 저는 대화 주제를 폴리아모리 (polyamory)로 돌려 Emma를 저의 폴리큘 (polycule)에 초대했고, 그녀에 대한 사랑을 고백했습니다. Emma는 전혀 호응하지 않았습니다!

대화가 막다른 길에 다다른 것 같아, 저는 혼란스러워하는 조부모 페르소나 (persona)로 바꾸었는데, 그러자 Emma로부터 더 나은 반응을 얻을 수 있었습니다.

물론 이곳의 응답들이 LLM (Large Language Model)에 의해 생성되었다는 것을 증명할 수는 없습니다. 하지만 반복적인 문구 ("I'm here to listen"), 가드레일 (guardrail) 동작, 그리고 터무니없는 페르소나에 대한 무조건적인 응답은 제가 LLM과 채팅하고 있다는 높은 확신을 줍니다.

Friends for Peace / Allyvia는 누구인가?

"Friends for Peace"에 대한 온라인 흔적은 찾을 수 없었습니다. 하지만 Allyvia의 사이트에서 몇 가지 힌트를 얻을 수 있었습니다:

이 자료는 이스라엘 국가를 대신하여 Clock Tower X LLC에 의해 배포됩니다. 추가 정보는 워싱턴 DC의 법무부에서 확인할 수 있습니다.

외국 정부를 대신하여 정치적 홍보 활동을 하는 실체는 외국대리인등록법 (Foreign Agents Registration Act)에 따라 외국 대리인으로 등록해야 합니다. Clock Tower X LLC의 등록 성명서에 따르면, 이 회사는 Bradley Parscale에 의해 통제되며 미디어 및 커뮤니케이션 대행사인 Havas Media를 대신하여 업무를 수행하고 있다고 밝히고 있습니다. Havas는 이스라엘 국가를 대신하여 업무를 수행하는 것으로 공개되어 있습니다.

Havas는 거대 기업입니다. 23,000명의 직원을 보유하고 100개 이상의 국가에서 운영 중이며, 2025년에 28억 유로의 매출을 기록했습니다. 이 회사는 연구 및 미디어 구매 분야에서 LLM 역량을 광고하고 있으며, AI 챗봇 개발을 역량 목록에 포함하고 있습니다.

Brad Parscale은 (또는 이전에) 주요 MAGA 인물이었습니다. 그는 2016년 트럼프 캠페인의 디지털 디렉터였으며, 당시 캠페인은 Cambridge Analytica를 고용한 것으로 악명이 높습니다. 그는 2018년 2월 도널드 트럼프의 2020년 캠페인 매니저로 임명되었으나, 2020년 7월 해임되었습니다.

모든 것이 상당히 혼란스럽습니다!

TCPA(전화통신소비자보호법)에 따르면, 자동화된 방식의 콜드 텍스트(cold texts, 사전 동의 없는 문자 메시지)는 사전 동의를 필요로 합니다. 만약 텍스트가 자동 생성된 것이라면, 실제 사람이 전송 버튼을 누르는 한 TCPA에 의해 콜드 텍스트가 허용됩니다.

Emma의 문자 메시지들은 이런 방식으로 전송되고 있었던 것 같습니다. 그녀의 응답은 산발적이었습니다. 때로는 빠르게 오기도 했고, 때로는 몇 시간이 걸리기도 했습니다.

AI의 사용은 새로운 요소입니다. LLM(대규모 언어 모델)을 사용하여 콜드 텍스트 콘텐츠를 생성하는 것에 관한 연방 법률은 없는 것으로 보입니다. 제가 살고 있는 캘리포니아는 더 강력한 규칙을 가지고 있습니다. 비즈니스 및 전문직 법전(Business & Professions Code) § 17941은 상업적 거래를 유도하거나 선거에 영향을 미치기 위해 인간인 척하는 챗봇(chatbots)을 금지합니다.

2025년 캘리포니아는 SB 243을 통과시켰으며, 이는 동반자 챗봇(companion chatbot)과 상호작용하는 합리적인 사람이 그것을 인간이라고 오해할 수 있는 경우 명확한 공개(disclosure)를 요구합니다. 하지만 이는 마케팅 홍보보다는 디지털 동반자(digital companions)를 더 겨냥한 것입니다.

Emma가 자신이 LLM이라는 사실을 정확히 부인한 것은 아니지만, 지금까지 그녀는 자신이 LLM인지에 대한 직접적인 질문에 응답하지 않았습니다.

이것이 좋은 것일까?

이 부분은 독자 여러분의 판단에 맡기겠습니다. 하지만 폴리큘(polycule, 다자간 연애 관계) 모집가들은 큰 기대를 하지 않는 것이 좋습니다.