AI가 정책 자문이나 공청회 과정에서 대규모의 공공 의견을 종합하는 데 광범위하게 사용되고 있습니다

요약

인공지능(AI)이 정책 자문 과정에서 대규모 공공 의견을 요약하는 것이 일반화되고 있지만, 이 요약본이 원본 참여자 집단을 얼마나 충실하게 대표하는지에 대한 공식적인 감사 체계가 부족합니다. 기존의 AI 설명 가능성(explainability)이나 환각 탐지 기법들은 출력물의 품질에 초점을 맞추어 입력 데이터의 충실도 문제를 다루지 못했습니다. 본 논문은 '참여형 출처 추적 (participatory provenance)'이라는 새로운 측정 프레임워크를 제안합니다. 이 방법론은 최적 수송 이론(optimal transport), 인

핵심 포인트

• 제안된 참여형 출처 추적(participatory provenance)는 AI 요약 과정에서 개별 의견이 어떻게 변형되거나 손실되는지 측정하는 프레임워크입니다.
• 캐나다의 실제 사례 분석 결과, 정부가 발표한 공식 요약본들이 무작위 참가자 수준보다 낮은 대표성(coverage degradation)을 보이며 상당수의 참여자를 배제하고 있음을 밝혀냈습니다.
• 참여자들의 반대 의견이나 비판적 목소리가 AI 요약 과정에서 가장 높은 비율로 제외되는 경향이 관찰되었습니다.
• 요약문의 간결함, 의미론적 고립성, 수사학적 어조 등이 결과적인 대표성에 영향을 미치는 주요 예측 변수임이 확인되었습니다.