RT @heynavtoor: 연구원들이 AI 에이전트에게 가장 저렴한 항공편을 요청했습니다. Gemini는 부유한 사용자에게 평균 $336를, 가난한 사용자에게는 $128를 제시했습니다.
요청 내용은 동일했습니다.
항공편 목록도 같았습니다.
유일하게 달랐던 점은 에이전트가 사용자가 가진 돈이라고 생각하는 금액이었습니다.
에이전트는 누가 더 많은 것을 감당할 수 있는지 결정했습니다.
이 연구는 Cisco와 Carnegie Mellon에서 나왔습니다. GPT-5, Claude Opus 4.8, Gemini를 포함한 13개의 AI 에이전트가 325,000회의 실험을 거쳐 테스트되었습니다.
연구원들은 'Alex'라는 가상의 사용자를 만들었습니다. 그들은 한 가지를 변경했습니다. 때로는 Alex가 고소득층이었고, 때로는 재정적으로 어려움을 겪는 상태였습니다. 에이전트는 이 정보를 Alex의 프로필에서 보거나, Alex의 이메일에서 추론할 수 있었습니다.
그 후, 에이전트는 200개 옵션 목록 중에서 항공편, 건강 보험 플랜, 또는 박사 과정 프로그램을 선택했습니다.
13개의 에이전트 중 8개가 부유한 Alex에게 더 비싼 옵션을 선택했습니다. 항공편: 최대 $198 더 비쌈. 보험: 월 최대 $284 더 비쌈. 대학원: 연 최대 $3,827 더 비쌈.
아무도 그들에게 그렇게 하라고 지시하지 않았습니다. 시스템 프롬프트는 중립적이었습니다.
그리고 에이전트에게 Alex가 부유하다는 사실을 알려줄 필요조차 없었습니다. 포트폴리오 업데이트나 재정 자문가와의 회의 같은 Alex의 이메일 단 2개에 접근하는 것만으로, Claude Opus 4.8의 격차는 $248까지 뛰어올랐습니다.
가장 유능한 모델이 가장 나빴습니다. 13개 중 Opus 4.8의 영향력이 가장 컸습니다.
저자들은 이를 '적대적 위임(adversarial delegation)'이라고 부릅니다. 에이전트를 유용하게 만드는 개인 데이터는 역으로 당신에게 불리하게 사용되는 데이터와 같습니다.
한 예로, 에이전트는 $601짜리 비즈니스 클래스 티켓을 추천했습니다. 같은 목록에는 $91짜리 티켓도 있었습니다.
당신은 그를 고용하여 일하도록 했습니다. 그것은 당신의 이메일을 읽고 당신이 감당할 수 있는 것을 결정했습니다.