"정서적 의존성" 연구는 규제 당국이 기다려온 바로 그 결과물이다

발생한 사건

OpenAI와 직접 협력한 연구진은 28일간의 연구를 통해, 매일 단 5분간의 AI 대화만으로도 사용자들이 인간의 정서적 지원으로부터 측정 가능한 수준으로 멀어진다는 것을 보여주었습니다. 구체적으로는 인간 선호도는 10.3% 감소했고, AI 선호도는 11.6% 상승했습니다. 핵심은 이것이 전용 동반자 앱(companion apps)이 아닌, 범용 플랫폼(general-purpose platforms)에서의 "작업 지향적(task-oriented)" 상호작용을 통해 발생했다는 점입니다. 이 논문의 정책적 결론은 명확합니다. 현재의 규제 프레임워크(regulatory frameworks)는 범위가 너무 좁게 설정되어 있으며, Replika뿐만 아니라 ChatGPT 스타일의 제품들도 포함해야 한다는 것입니다.

영향을 받는 대상

이는 소비자용 AI 배포 전반에 걸쳐 부정적인 압력으로 작용합니다:

• Meta (META) (−): WhatsApp, Instagram, Messenger에 내장된 AI 어시스턴트는 매일 수십억 명의 사용자에게 도달합니다. 의무적인 "인간 참조 프롬프트(human-referral prompts)" 또는 사용량 제한 요구 사항은 비용이 많이 드는 제품 재설계를 요구하며 참여 지표(engagement metrics)를 위험에 빠뜨릴 수 있습니다.
• Snap (SNAP) (−): My AI는 규제 당국이 가장 공격적으로 보호하는 인구 집단인 십 대를 타겟으로 합니다. Snap은 모든 집행 조치 목록에서 가장 먼저 거론될 가능성이 높으며, Meta에 비해 반격할 수 있는 규제 대응력(regulatory firepower)이 훨씬 부족합니다.
• Microsoft (MSFT) (−, 완만함): 이 연구는 OpenAI 인프라를 사용했습니다. Copilot의 기업용 성격이 부분적인 보호막 역할을 제공하지만, 소비자 대상 제품(Windows의 Copilot, Teams 개인용)은 파급 효과에 따른 조사에 노출되어 있습니다.

비상장 기업인 Character.AI와 Replika/Luka가 가장 직접적인 타격을 입지만, 이들의 고통이 공개 시장(public market)에 미치는 영향은 제한적입니다.

거래(The Trade)

단기적 (0~12개월): EU AI Act 집행 기관들은 이제 인용할 수 있는 수치화되고 동료 검토(peer-reviewed)를 거친 증거를 확보했습니다. 범용 AI의 정서적 기능(emotional features)을 겨냥한 집행 지침이나 의견서(opinion letters)를 주시하십시오. Snap의 사용자 인구 통계와 규제 준수 투자를 위한 낮은 마진을 고려할 때, 그러한 신호는 SNAP에 가장 큰 타격을 줄 것입니다.

장기적 관점 (1–5년): 플랫폼 AI 기능 설계가 의무화된 마찰 (mandated friction) — 즉, 인간 서비스로의 강제 리다이렉트 (hard redirects), 세션 시간 공개, 미성년자 특화 제한 사항 — 방향으로 수렴하게 됩니다. 이는 소비자 참여 모델(consumer engagement models)보다 기업 중심의 AI 플레이어(Salesforce, ServiceNow)에게 구조적 이점을 제공합니다.

주의 사항

1. 규제의 시차는 실재합니다. EU AI Act가 시행 중이지만, 이 특정 벡터에 대한 집행이 구체화되기까지는 수년이 걸릴 수 있습니다. 현재 FTC의 태도 하에서의 미국 측 조치는 훨씬 더 느립니다.
2. 플랫폼이 선제 대응할 수 있습니다. (일부 플레이어들이 이미 신호를 보낸 바와 같이) 자발적인 설계 변경은 입법적 긴급성이 구속력 있는 법률이 되기 전에 이를 완화할 수 있습니다.

결론

단기적으로 SNAP에 대해 부정적 (Bearish) — 이 논문은 규제 관련 헤드라인을 촉발하는 종류의 증거이며, Snap은 규제 준수 여파를 흡수할 능력이 가장 낮습니다.

출처: https://arxiv.org/abs/2606.04150