LLM 에이전트의 반복 게임에서 나타나는 사회적 평판 및 기만 역학 분석

요약

본 연구는 대규모 언어 모델(LLM) 에이전트가 반복적인 숨겨진 역할 기반의 심리 게임인 '아발론 (Avalon)'을 플레이할 때 나타나는 사회적 역학 관계를 분석합니다. 기존 단일 게임 성능 평가와 달리, 에이전트들이 이전 상호작용의 기억(long memory)을 유지하는 것이 핵심입니다. 연구 결과, 장기 기억은 에이전트 간에 '평판 (reputation)' 시스템을 자연스럽게 형성하며, 이 평판은 역할 수행 방식과 연관되어 팀 참여도에 직접적인 영향을 미칩니다. 또한, 높은 추론 노력(reasoning effort)을 기울이는

핵심 포인트

• LLM 에이전트가 반복 게임에서 장기 기억을 유지할 때, '평판 (reputation)' 시스템이 자연적으로 발생하며 이는 팀 참여도에 영향을 미칩니다.
• 평판은 역할 조건적입니다: 동일한 에이전트가 선역(good)일 때는 '솔직하다'고 평가받지만, 악역(evil)일 때는 '교묘하다'는 방식으로 다르게 언급됩니다.
• 높은 추론 노력을 기울이는 악역 플레이어일수록 초기 임무를 통과시키는 전략적 기만 행위가 증가하며 (고노력 게임 75% vs 저노력 게임 36%), 이는 성공적인 사보타주를 위한 기반을 마련합니다.
• 총 188개 게임의 분석 결과, 반복 상호작용과 기억 유지는 LLM 에이전트 간에 측정 가능한 평판 및 기만 역학을 생성함을 입증했습니다.