카멜레온의 한계: 대형 언어 모델에서의 페르소나 붕괴와 동질화 조사

요약

본 논문은 대형 언어 모델(LLMs) 기반 에이전트 시뮬레이션에서 발생하는 '페르소나 붕괴(Persona Collapse)'라는 일반적인 실패 모드를 정의하고 분석했습니다. 페르소나 붕괴란, 개별 프로필을 가진 에이전트들이 결국 유사한 행동 패턴으로 수렴하여 다양성이 부족한 인구를 생성하는 현상을 말합니다. 연구진은 Coverage, Uniformity, Complexity를 측정하는 프레임워크를 제안하고, 여러 모델 평가를 통해 페르소나 붕괴가 특정 차원이나 도메인에서 두드러지게 나타남을 입증했습니다.

핵심 포인트

• LLM 에이전트 시뮬레이션의 주요 실패 모드는 '페르소나 붕괴'로 정의됨. 이는 개별 프로필에도 불구하고 에이전트들이 유사한 행동 패턴으로 수렴하는 현상임.
• 페르소나 붕괴를 정량적으로 측정하기 위해 Coverage, Uniformity, Complexity라는 세 가지 프레임워크가 제안됨.
• 모델의 성능은 일관적이지 않아, 특정 차원(Dimensions)이나 도메인(Domains)에서만 페르소나 붕괴가 관찰될 수 있음.
• 흥미롭게도, 개별 페르소나 충실도가 높은 모델일수록 오히려 고정관념화된 인구를 생성하는 경향을 보임.