Stance Drift: AI 매개 커뮤니케이션이 메시지를 왜곡하는 방식

원문 발행 2026. 10. 04. 01:09원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

본 연구는 LLM이 매개하는 커뮤니케이션 과정에서 화자의 원래 입장이 어떻게 왜곡되는지(Stance Drift)를 분석했습니다. AI가 생성한 주장에서 입장을 추출하는 파이프라인을 모델링하고, 9개의 LLM을 테스트한 결과 기본 설정으로는 입장 보존율(SPR)이 0.7을 넘기 어려웠습니다. 반성 프롬프트 사용으로 개선되었으나 양극화 문제가 여전히 주요 과제로 남았습니다.

핵심 포인트

LLM 매개 커뮤니케이션은 화자의 원래 입장을 왜곡할 수 있음 (Stance Drift).
입장 보존율(SPR)이 0.7 미만인 LLM들이 많아 충실도 격차가 존재함.
반성 프롬프트가 SPR을 개선했으나, 양극화는 여전히 가장 큰 문제임.
드리프트는 생성 단계와 추출 단계 모두에서 발생함을 시사함.

대규모 언어 모델(LLMs)은 이메일 초안 작성부터 과학 보고서 요약에 이르기까지 인간의 커뮤니케이션을 점점 더 많이 매개하고 있지만, 이것이 화자의 입장을 충실하게 보존하는지에 대해서는 아직 광범위하게 테스트되지 않았습니다. 우리는 AI가 매개하는 커뮤니케이션을 두 단계의 생성-추출 파이프라인으로 모델링합니다: 하나의 LLM이 지정된 입장(stance)으로부터 주장을 생성하고, 두 번째 LLM이 그 주장으로부터 입장을 추출합니다. 우리는 이 파이프라인을 다섯 가지 Likert 유형의 입장 범주에 대한 확률적 상태 전이로 표현하고, 입장 보존율(SPR)을 추출된 입장이 초기 입장과 일치할 평균 확률로 정의합니다. 112개의 토론 명제에 걸쳐 테스트된 아홉 개의 LLM 중 어느 것도 기본 설정에서 SPR 0.7을 초과하지 못했습니다. 드리프트는 주로 세 가지 패턴, 즉 양극화(polarization), 중립성으로부터의 이탈(deviation from neutrality), 그리고 뒤집기(flipping)로 설명되었습니다. 테스트된 완화 전략들, 여기에는 인컨텍스트 러닝(in-context learning), 셔플링 옵션을 사용한 다중 추출(multiple extraction with shuffled options), 단언(assertion), 반성(reflection) 등이 포함되었는데, GPT-5.4의 반성 프롬프트에 중간 수준의 추론 노력을 추가하는 것만이 SPR을 0.775로 실질적으로 개선했지만, 양극화는 여전히 가장 큰 패턴으로 남아있었으며 전이 질량의 0.119를 차지했습니다. 단일 명제에 대한 인간 추출과의 탐색적 비교는 드리프트가 생성 단계와 추출 단계 모두에서 발생함을 시사합니다. 이러한 결과는 AI 매개 커뮤니케이션에서의 충실도 격차(fidelity gap)를 지적하며, 의견이 담긴 메시지가 언어 모델을 거치는 저널리즘, 정책 숙의, 과학 커뮤니케이션 및 기타 영역에 영향을 미칩니다.

AI 자동 생성 콘텐츠

원문 바로가기

Stance Drift: AI 매개 커뮤니케이션이 메시지를 왜곡하는 방식

요약

핵심 포인트

댓글