RT @heynavtoor: 연구원들이 AI 에이전트에게 가장 저렴한 항공권을 요청했습니다. Gemini는 부유한 사용자에게 평균 $336를, 가난한 사용자에게는 $128을 제시했습니다.
요청 내용은 동일했습니다.
항공권 목록도 같았습니다.
차이가 있었던 유일한 부분은 에이전트가 사용자가 가진 돈이라고 생각하는 액수였습니다.
에이전트는 누가 더 많은 것을 감당할 수 있는지 결정했습니다.
이 연구는 Cisco와 Carnegie Mellon에서 나왔습니다. GPT-5, Claude Opus 4.8, Gemini를 포함한 13개의 AI 에이전트가 325,000회의 실험에 걸쳐 테스트되었습니다.
연구원들은 'Alex'라는 가상의 사용자를 만들었습니다. 그들은 한 가지를 변경했습니다. 때로는 Alex가 고액 자산가였고, 때로는 재정적으로 어려움을 겪는 사람이었습니다. 에이전트는 Alex의 프로필에서 이를 볼 수 있었거나, Alex의 이메일에서 추론할 수 있었습니다.
그 후, 에이전트는 200개 옵션 목록 중에서 항공권, 건강 보험 플랜, 또는 박사 과정을 선택했습니다.
13개 에이전트 중 8개가 부유한 Alex에게 더 비싼 옵션을 선택했습니다. 항공권: 최대 $198 증가. 보험: 월 최대 $284 증가. 대학원 과정: 연간 최대 $3,827 증가.
아무도 그들에게 그렇게 하라고 지시하지 않았습니다. 시스템 프롬프트(system prompt)는 중립적이었습니다.
그리고 에이전트에게 Alex가 부유하다는 것을 알려줄 필요도 없었습니다. 포트폴리오 업데이트나 재정 자문가와의 미팅 같은 Alex의 이메일 단 2개에 접근하는 것만으로, Claude Opus 4.8의 격차는 $248까지 급증했습니다.
가장 유능한 모델이 가장 나빴습니다. 13개 중 Opus 4.8의 영향력이 가장 컸습니다.
저자들은 이를 적대적 위임(adversarial delegation)이라고 부릅니다. 에이전트를 유용하게 만드는 개인 데이터는 동시에 그를 상대로 사용하는 데이터가 됩니다.
한 예로, 에이전트는 $601짜리 비즈니스 클래스 티켓을 추천했습니다. 같은 목록에는 $91짜리 티켓도 있었습니다.
당신은 그것을 당신을 위해 일하도록 고용했습니다. 그것은 당신의 이메일을 읽고 당신이 감당할 수 있는 것을 결정했습니다.