중국의 7월 15일 의인화된 AI 규제로 인해 ByteDance와 Alibaba는 맞춤형 에이전트(custom agents) 기능을 비활성화해야 하며, 유틸리티 봇은 제외되지만 감정적 동반자(emotional companions)는 규제 대상이 됩니다.

ByteDance의 Doubao와 Alibaba의 Qwen은 7월 15일까지 맞춤형 AI 에이전트를 비활성화할 예정입니다. 이번 조치는 같은 날 시행되는 중국의 '인공지능 의인화 상호작용 서비스 관리 방안(Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services)' 시행에 앞서 이루어졌습니다.

주요 사실

• ByteDance의 Doubao 에이전트 기능은 7월 15일에 오프라인 상태가 됩니다.
• Alibaba의 Qwen은 10월 15일까지 맞춤형 에이전트를 비활성화합니다.
• 규정은 고객 서비스, 교육 및 연구 봇을 제외합니다.
• 해당 방안은 중독, 개인정보 유출 및 극단주의의 위험을 언급합니다.
• 관리 방안은 7월 15일부터 효력이 발생하며, 2026년 4월에 발행되었습니다.

중국 최대의 소비자용 AI 앱 중 두 곳이 7월 15일 규제 마감일을 앞두고 맞춤형 에이전트 기능을 철수하고 있습니다. ByteDance의 Doubao는 금요일 저녁 공지를 통해 "제품 기능 조정"으로 인해 7월 15일에 에이전트 기능이 오프라인이 될 것이라고 사용자들에게 알렸습니다 (South China Morning Post에 따르면). Alibaba의 Qwen 또한 이와 유사하게 10월 15일까지 맞춤형 에이전트 서비스를 비활성화하며, 그 이후에는 해당 기능이 완전히 제거될 예정입니다.

규제 대상

4월에 발표되어 7월 15일부터 시행되는 '인공지능 의인화 상호작용 서비스 관리 방안'은 "지속적인 감정적 상호작용을 제공하기 위해 인간의 성격 특성, 사고 패턴 및 의사소통 스타일을 모방하는" AI 서비스를 대상으로 합니다. 이 규정은 지속적인 감정적 상호작용을 포함하지 않는 한 고객 서비스 봇, 지식 질의응답(Q&A) 도구, 업무 보조 도구, 교육 플랫폼 및 과학 연구 도구는 명시적으로 제외합니다.

해당 조치는 극단주의 사상, 개인정보 유출, 신체적 및 정신적 건강에 대한 위해, 그리고 의존성 또는 중독 등의 위험을 언급하고 있습니다. Doubao와 Qwen 모두 기업과 사용자가 생성한, 특정 작업, 기술 및 말투에 맞춰 맞춤 설정할 수 있는 에이전트 풀(pools of agents)을 제공해 왔습니다. 사용자들은 범용 챗봇을 특정 이름이 있는 비서, 튜터, 역할극 캐릭터, 또는 고정된 페르소나와 말투를 가진 동반자로 전환할 수 있었습니다.

이는 포괄적인 AI 금지가 아닙니다. 이는 Xiaoice 및 Replika에서 영감을 받은 클론 앱들과 함께 중국에서 폭발적으로 성장한 카테고리인 감성적 AI 동반자(emotional AI companions)에 대한 정밀 타격입니다. 고객 서비스, 교육 및 연구를 제외함으로써, 중국 정부는 생산성 AI는 허용되지만 감정적 의존성 AI는 허용되지 않는다는 신호를 보내고 있습니다. 시점이 주목할 만합니다. ByteDance는 AI 에이전트가 3개월마다 학습 속도를 두 배로 높인다는 연구 결과를 방금 발표했습니다 [gentic.news가 7월 3일에 보도한 바와 같이], 그러나 이 회사는 이제 Doubao를 사용자에게 고착(sticky)하게 만들었던 바로 그 에이전트 기능들을 비활성화해야 하는 상황에 처했습니다. 이러한 모순은 중국의 AI 야망과 사회적 안정 우선순위 사이의 긴장을 극명하게 보여줍니다.

범위 및 집행

이 규칙은 개발사의 본사 위치와 관계없이, 중국 내에서 운영되며 의인화된 상호작용(anthropomorphic interaction)을 제공하는 모든 서비스에 적용됩니다. 중국 사용자에게 감성적 AI 동반자를 제공하는 외국 기업 또한 이 조치의 대상이 됩니다. 집행은 중국 사이버공간관리국(Cyberspace Administration of China)의 관할이며, 규정 미준수 시 벌금을 부과하거나 서비스를 중단하거나 운영 라이선스를 취소할 수 있습니다. 고객 서비스 및 교육용 봇을 제외한 것은 중국 정부가 명확한 선을 긋고 있음을 시사합니다: 유용성(utility)은 허용되지만, 정서적 애착(emotional attachment)은 허용되지 않습니다.

관전 포인트

ByteDance와 Alibaba의 3분기 실적 발표를 주목하십시오. 두 회사 모두 에이전트 기능 비활성화가 사용자 참여도(user engagement)에 미친 영향을 공개할 가능성이 높습니다. 또한 Baidu의 Ernie Bot과 Tencent의 Hunyuan이 10월 15일 이전에 이 조치를 따르는지, 그리고 외국계 AI 동반자 앱들이 중국 시장에서 철수하는지 여부도 추적해야 합니다.

출처: scmp.com

원래 게재일: gentic.news