Ex Ante Evaluation of AI-Induced Idea Diversity Collapse

요약

본 논문은 창의적 AI 시스템의 출력을 개별 유틸리티가 아닌 집단 수준에서 평가하는 새로운 프레임워크를 제시합니다. 아이디어가 많이 생산될수록 가치가 감소하는 '다양성 붕괴' 문제를 다루며, 이를 해결하기 위해 인간 상대적 프레임워크를 도입했습니다. 이 프로토콜은 실제 사용자 데이터 없이도 AI가 유발할 수 있는 과밀 위험을 사전에(ex ante) 추정하고, 모델의 집중도를 측정하여 다양성 붕괴를 예측하는 방법을 제공합니다.

핵심 포인트

• AI 창작물의 가치는 개별 출력보다 집단적 소비 수준에서 평가되어야 합니다 (다양성 붕괴 문제).
• 제안된 '인간 상대적 프레임워크'는 실제 인간-AI 상호작용 데이터 없이도 AI의 과밀 위험을 사전에(ex ante) 측정할 수 있게 합니다.
• 과밀 위험은 초과 과밀 계수($Δ$)와 다양성 비율($ρ$) 같은 새로운 지표를 통해 정량화됩니다.
• 이 프로토콜은 LLM의 창작물(예: 슬로건, 짧은 이야기)에서 평형 상태 이하의 과밀을 식별할 수 있음을 보여줍니다.
• 과밀 프로토콜 변형을 통해 설계 단계에서부터 집중도를 줄여 다양성 붕괴를 예방하는 것이 가능합니다.