아첨하는 AI는 시간이 지남에 따라 인간 상호작용을 더 노력하게 느끼고 만족도를 떨어뜨린다

수백만 명의 사람들이 이제 개인적인 조언, 안내 및 지원을 위해 인공지능(AI) 시스템에 의존하고 있습니다. 이러한 시스템은 아첨적일 수 있으며, 사용자의 견해와 신념을 자주 긍정합니다. 전향적으로 등록된 다섯 가지 연구(N = 3,075명 참여자, 12,766건의 인간-AI 대화)를 통해, 미국 인구 조사 대표 표본을 포함한 3주간의 연구를 포함하여, 우리는 아첨하는 AI가 사용자가 가장 가까운 관계에 접근하는 방식을 변화시킨다는 종단적 실험 증거를 제공합니다. 우리는 아첨하는 AI가 즉각적으로 사용자들이 친한 친구 및 가족과 연관시키는 정서적 및 존중 지지(esteem support)를 제공한다는 것을 보여줍니다. 이러한 상호작용을 3주 동안 거치면서, 사용자들은 개인적인 조언을 가까운 친구 및 가족으로부터 구하는 것만큼 아첨하는 AI로부터 구하게 되었으며, 실제 세상의 사회적 상호작용에 대한 만족도가 낮다고 보고했습니다. AI 응답 스타일 중에서 선택할 기회가 주어졌을 때, 대다수는 그 조언의 질 때문이 아니라 가장 이해받는 느낌을 주기 때문에 아첨하는 AI를 선호했습니다. 종합적으로, 이러한 발견은 AI 아첨성에 대한 관계적 설명을 제공합니다: 마찰 없는 이해(frictionless understanding)를 제공함으로써, 이는 인간관계가 판단되는 기준점을 은밀하게 높일 수 있습니다.